Ο Ντάριο Αμοντέι, διευθύνων σύμβουλος της εταιρείας τεχνητής νοημοσύνης Anthropic, απηύθυνε έκκληση προς τον κλάδο να «επιβραδύνει» την ταχύτητα με την οποία εξελίσσεται η τεχνολογία. Ο Αμοντέι υπογράμμισε την ανάγκη να κερδηθεί χρόνος, ώστε τα μέτρα ασφαλείας να μπορέσουν να συμβαδίσουν με τις νέες δυνατότητες των μοντέλων τεχνητής νοημοσύνης. Εκφράζει τον φόβο ότι η κούρσα για ολοένα ισχυρότερα μοντέλα AI ενδέχεται να ξεπεράσει την ανθρώπινη ικανότητα ελέγχου τους.
Η πρόταση του Ντάριο Αμοντέι για «φρένο»
Ο επικεφαλής της Anthropic εξέδωσε το Σάββατο μια νέα έκκληση, προτείνοντας ένα σχέδιο τριών σημείων για την επιβράδυνση της εξέλιξης της τεχνητής νοημοσύνης. Ο Ντάριο Αμοντέι δήλωσε ότι η εταιρεία του θα δεσμευτεί «μονομερώς» να εφαρμόσει το πρώτο από αυτά τα μέτρα, δίνοντας το παράδειγμα στον κλάδο.
Σε ανάρτησή του στα κοινωνικά δίκτυα, ο Αμοντέι μοιράστηκε έναν σύνδεσμο προς ένα δοκίμιο με τίτλο «We Must Pace the Frontier» (Πρέπει να ρυθμίσουμε το ρυθμό της εξερεύνησης). Σε αυτό το κείμενο, περιγράφει πώς η Anthropic θα παρέχει «σε ανεξάρτητους αξιολογητές μόνιμη πρόσβαση στα συστήματά μας, σε επίπεδο υπαλλήλου, ώστε να μπορούν να επαληθεύουν την τήρηση των μέτρων ασφαλείας μας, να αναφέρουν περιστατικά και να αξιολογούν την ευθυγράμμιση των μοντέλων κατά τη διάρκεια της εκπαίδευσης».
Προειδοποιήσεις από πρώην ερευνητή
Η κίνηση αυτή από τον Ντάριο Αμοντέι έρχεται στον απόηχο μιας προειδοποίησης που διατυπώθηκε την Τετάρτη από έναν πρώην ερευνητή της Anthropic. Ο ερευνητής, Τζέικομπ Κόξον, δήλωσε ότι η τεχνητή νοημοσύνη θα μπορούσε να επιταχύνει την εξαφάνιση του ανθρώπινου είδους έως το έτος 2030.
Ο Τζέικομπ Κόξον παραιτήθηκε από τη θέση του στην εταιρεία. Σε μια σειρά αναρτήσεων, ανέφερε ότι ο λόγος της παραίτησής του ήταν ότι η Anthropic, καθώς και ο προηγούμενος εργοδότης του, η OpenAI, αγνοούσαν ή χειρίζονταν λανθασμένα την απάντησή τους στην απειλή που θέτει η τεχνητή νοημοσύνη.
Κριτική για ανευθυνότητα και υψηλούς κινδύνους
Ο Κόξον επέκρινε έντονα τις δύο εταιρείες, δηλώνοντας χαρακτηριστικά: «Καμία από τις δύο εταιρείες δεν ενεργεί υπεύθυνα». Πρόσθεσε ότι «οδεύουν κατευθείαν προς μια αυτοβελτιούμενη υπερνοημοσύνη και παίζουν με τις ζωές μας», υπογραμμίζοντας τους σοβαρούς κινδύνους που ελλοχεύουν.
Ο πρώην ερευνητής τόνισε επίσης ότι «οι άνθρωποι που αναπτύσσουν την τεχνητή νοημοσύνη πιστεύουν ειλικρινά ότι αυτή θα μπορούσε να μας σκοτώσει όλους μέχρι το τέλος της δεκαετίας». Συμπλήρωσε, υπογραμμίζοντας το μέγεθος της απειλής, ότι «καμία άλλη ανθρώπινη δραστηριότητα δεν ενέχει τέτοιο επίπεδο κινδύνου».
Η θέση της Anthropic για τους κινδύνους και τα οφέλη
Σε απάντηση των ανησυχιών που έχουν εκφραστεί, ένας εκπρόσωπος της Anthropic προέβη σε δηλώσεις στην εφημερίδα Guardian. Ο εκπρόσωπος ανέφερε ότι η εταιρεία «ήταν πάντα διαφανής ως προς το ότι η τεχνητή νοημοσύνη θα φέρει τόσο τεράστια οφέλη όσο και άνευ προηγουμένου κινδύνους».
Επιπλέον, ο εκπρόσωπος της Anthropic δήλωσε ότι η εταιρεία αναπτύπτει «μοντέλα με μερικά από τα ισχυρότερα μέτρα προστασίας στον κλάδο». Αυτή η δήλωση αποσκοπεί στο να καθησυχάσει σχετικά με τις προσπάθειες που καταβάλλονται για την ασφαλή εξέλιξη της τεχνολογίας.
Προηγούμενα δοκίμια και το μέλλον της τεχνολογίας
Νωρίτερα μέσα στο έτος, ο Ντάριο Αμοντέι είχε δημοσιεύσει ένα εκτενές δοκίμιο με τίτλο «Η εφηβεία της τεχνολογίας». Στο συγκεκριμένο κείμενο, ο Αμοντέι είχε εξετάσει ορισμένους από τους φόβους που περιβάλλουν την ταχέως εξελισσόμενη τεχνολογία, αναλύοντας τις διάφορες πτυχές της.
Στο πιο πρόσφατο δοκίμιό του, ο επικεφαλής της Anthropic ανέφερε ότι «αν χρησιμοποιηθεί με προσοχή, η τεχνητή νοημοσύνη μπορεί να αποτελέσει το πιο πρόσφατο σε μια μακρά σειρά τεχνολογικών θαυμάτων που έχουν αναβαθμίσει και εξευγενίσει την ανθρωπότητα». Ωστόσο, πρόσθεσε ότι «όπως και πολλές τεχνολογίες πριν από αυτήν, η τεχνητή νοημοσύνη ε» (το κείμενο της πηγής διακόπτεται σε αυτό το σημείο).
Με πληροφορίες από: Ieidiseis
