Ο Ντάριο Αμοντέι, επικεφαλής της εταιρείας τεχνητής νοημοσύνης Anthropic, υπογράμμισε την ανάγκη να επιβραδυνθεί ο ρυθμός εξέλιξης της τεχνητής νοημοσύνης. Ο Αμοντέι εξέφρασε την ανησυχία του ότι η κούρσα για ολοένα και πιο ισχυρά μοντέλα AI ενδέχεται να ξεπεράσει την ανθρώπινη ικανότητα να τα ελέγχει αποτελεσματικά. Για τον λόγο αυτό, τόνισε ότι η βιομηχανία πρέπει να κερδίσει χρόνο, ώστε τα μέτρα ασφαλείας να μπορούν να συμβαδίσουν με τις νέες δυνατότητες των μοντέλων.
Έκκληση για επιβράδυνση της τεχνητής νοημοσύνης
Ο διευθύνων σύμβουλος της Anthropic απηύθυνε το Σάββατο μια νέα έκκληση προς τον κλάδο της τεχνητής νοημοσύνης να «επιβραδύνει». Πρότεινε ένα σχέδιο τριών σημείων για την επίτευξη αυτού του στόχου, δηλώνοντας ότι η εταιρεία του θα δεσμευτεί «μονομερώς» να εφαρμόσει το πρώτο από αυτά τα μέτρα.
Σε ανάρτησή του στα κοινωνικά δίκτυα, ο Ντάριο Αμοντέι μοιράστηκε έναν σύνδεσμο προς ένα δοκίμιο με τίτλο «We Must Pace the Frontier» (Πρέπει να ρυθμίσουμε το ρυθμό της εξερεύνησης). Σε αυτό το δοκίμιο, περιγράφει πώς η Anthropic θα παρέχει «σε ανεξάρτητους αξιολογητές μόνιμη πρόσβαση στα συστήματά μας, σε επίπεδο υπαλλήλου, ώστε να μπορούν να επαληθεύουν την τήρηση των μέτρων ασφαλείας μας, να αναφέρουν περιστατικά και να αξιολογούν την ευθυγράμμιση των μοντέλων κατά τη διάρκεια της εκπαίδευσης».
Προειδοποίηση πρώην ερευνητή
Η κίνηση του Αμοντέι έρχεται μετά από προειδοποίηση που εξέδωσε την Τετάρτη ένας πρώην ερευνητής της Anthropic. Ο ερευνητής Τζέικομπ Κόξον δήλωσε ότι η τεχνητή νοημοσύνη θα μπορούσε να επιταχύνει την εξαφάνιση του ανθρώπινου είδους έως το 2030. Ο Κόξον, σε μια σειρά αναρτήσεων, ανέφερε ότι παραιτήθηκε από τη θέση του επειδή η Anthropic και ο προηγούμενος εργοδότης του, η OpenAI, αγνοούσαν ή χειρίζονταν λανθασμένα την απάντησή τους στην απειλή που θέτει η τεχνητή νοημοσύνη.
«Καμία από τις δύο εταιρείες δεν ενεργεί υπεύθυνα. Οδεύουν κατευθείαν προς μια αυτοβελτιούμενη υπερνοημοσύνη και παίζουν με τις ζωές μας», έγραψε ο Κόξον. Πρόσθεσε επίσης: «Οι άνθρωποι που αναπτύσσουν την τεχνητή νοημοσύνη πιστεύουν ειλικρινά ότι αυτή θα μπορούσε να μας σκοτώσει όλους μέχρι το τέλος της δεκαετίας… Καμία άλλη ανθρώπινη δραστηριότητα δεν ενέχει τέτοιο επίπεδο κινδύνου».
Η απάντηση της Anthropic
Σε απάντηση στις δηλώσεις του πρώην ερευνητή, εκπρόσωπος της Anthropic δήλωσε στην εφημερίδα Guardian ότι η εταιρεία «ήταν πάντα διαφανής ως προς το ότι η τεχνητή νοημοσύνη θα φέρει τόσο τεράστια οφέλη όσο και άνευ προηγουμένου κινδύνους». Ο εκπρόσωπος συμπλήρωσε ότι η εταιρεία αναπτύσσει «μοντέλα με μερικά από τα ισχυρότερα μέτρα προστασίας στον κλάδο».
Προηγούμενοι προβληματισμοί για την τεχνολογία
Νωρίτερα φέτος, ο Ντάριο Αμοντέι είχε δημοσιεύσει ένα εκτενές δοκίμιο με τίτλο «Η εφηβεία της τεχνολογίας», στο οποίο εξέταζε ορισμένους από τους φόβους που περιβάλλουν την ταχέως εξελισσόμενη τεχνολογία. Στο τελευταίο του δοκίμιο, υπογράμμισε ότι «αν χρησιμοποιηθεί με προσοχή, η τεχνητή νοημοσύνη μπορεί να αποτελέσει το πιο πρόσφατο σε μια μακρά σειρά τεχνολογικών θαυμάτων που έχουν αναβαθμίσει και εξευγενίσει την ανθρωπότητα».
Με πληροφορίες από: ieidiseis.gr
