Ο Dario Amodei, διευθύνων σύμβουλος της εταιρείας τεχνητής νοημοσύνης Anthropic, απηύθυνε νέα έκκληση προς τη βιομηχανία της τεχνητής νοημοσύνης να «επιβραδύνει» την ανάπτυξή της. Πρότεινε ένα σχέδιο τριών σημείων για την αποτροπή παγκόσμιων κινδύνων, δηλώνοντας πως η εταιρεία του θα δεσμευτεί «μονομερώς» στο πρώτο από αυτά τα βήματα. Η κίνηση αυτή έρχεται στον απόηχο προειδοποιήσεων για τους πιθανούς κινδύνους που εγκυμονεί η ταχεία εξέλιξη της τεχνολογίας.
Η πρόταση του Dario Amodei για την επιβράδυνση της AI
Σε ανάρτησή του στα μέσα κοινωνικής δικτύωσης, ο Dario Amodei μοιράστηκε έναν σύνδεσμο για ένα δοκίμιο με τίτλο «We Must Pace the Frontier». Σε αυτό, εξέθεσε πώς η Anthropic θα παρέχει σε «ανεξάρτητους αξιολογητές μόνιμη πρόσβαση στα συστήματά μας σε επίπεδο εργαζομένων». Σκοπός αυτής της πρόσβασης είναι να μπορούν οι αξιολογητές να επαληθεύουν την τήρηση των μέτρων ασφαλείας της εταιρείας, να αναφέρουν περιστατικά και να αξιολογούν την ευθυγράμμιση των μοντέλων κατά τη διάρκεια της εκπαίδευσης.
Ο Amodei πρότεινε ένα σχέδιο τριών σημείων για την επιβράδυνση της τεχνητής νοημοσύνης, το οποίο περιλαμβάνει αξιολογήσεις των συστημάτων τεχνητής νοημοσύνης από τρίτους. Η δέσμευση της Anthropic στο πρώτο βήμα του σχεδίου υπογραμμίζει την αναγκαιότητα για μεγαλύτερη διαφάνεια και έλεγχο στην ανάπτυξη της AI.
Οι προειδοποιήσεις για τους κινδύνους της τεχνητής νοημοσύνης
Η έκκληση του Amodei έρχεται αφότου ένας πρώην ερευνητής της Anthropic, ο Jacob Coxon, προειδοποίησε την Τετάρτη ότι η τεχνητή νοημοσύνη θα μπορούσε να προκαλέσει την εξαφάνιση της ανθρωπότητας μέχρι το 2030. Ο Coxon δήλωσε σε μια σειρά αναρτήσεων ότι εγκατέλειψε τη δουλειά του επειδή η Anthropic και ο προηγούμενος εργοδότης του, η OpenAI, αγνοούσαν ή διαχειρίζονταν λανθασμένα την απάντησή τους στην απειλή που συνιστά η τεχνητή νοημοσύνη.
Ο Coxon ήταν ιδιαίτερα επικριτικός, γράφοντας: «Καμία από τις δύο εταιρείες δεν ενεργεί υπεύθυνα. Τρέχουν κατευθείαν προς μια υπερευφυΐα που αυτοβελτιώνεται και παίζουν τις ζωές μας κορώνα γράμματα». Πρόσθεσε επίσης ότι «οι άνθρωποι που κατασκευάζουν την τεχνητή νοημοσύνη πιστεύουν ειλικρινά ότι θα μπορούσε να μας σκοτώσει όλους μέχρι το τέλος της δεκαετίας… Καμία άλλη ανθρώπινη δραστηριότητα δεν ενέχει τέτοιο επίπεδο κινδύνου».
Η απάντηση της Anthropic και οι αντιδράσεις της βιομηχανίας
Σε απάντηση στις ανησυχίες, ένας εκπρόσωπος της Anthropic ανέφερε σε δήλωσή του στον Guardian ότι η εταιρεία ήταν «πάντα διαφανής όσον αφορά το ότι η τεχνητή νοημοσύνη θα φέρει τόσο τεράστια οφέλη όσο και πρωτοφανείς κινδύνους». Τόνισε επίσης ότι η Anthropic κατασκευάζει «μοντέλα με μερικές από τις ισχυρότερες δικλείδες ασφαλείας στον κλάδο».
Η πρόταση του Amodei βρήκε υποστήριξη και από άλλες σημαντικές προσωπικότητες του χώρου της τεχνολογίας. Ο Sam Altman, CEO της OpenAI, ανήρτησε στα μέσα κοινωνικής δικτύωσης: «Συμφωνώ με τον Dario ότι πρέπει να ρυθμίσουμε τον ρυθμό στα σύνορα της τεχνολογίας». Ο Altman χαρακτήρισε τη δέσμευση για ανεξάρτητους αξιολογητές με πρόσβαση αντίστοιχη των εργαζομένων ως «εξαιρετική ιδέα» και δήλωσε ότι η OpenAI θα κάνει το ίδιο, υποσχόμενος περισσότερα σύντομα.
Ακόμη, ο Elon Musk απλά έγραψε: «Ο Dario έχει δίκιο», ενώ ο ερευνητής της OpenAI, Aidan McLaughlin, χαρακτήρισε την ανάρτηση «εξαιρετική» και δήλωσε ότι συμφωνεί «βασικά με κάθε λέξη».
Με πληροφορίες από: ieidiseis.gr