Η OpenAI αποκάλυψε μια σειρά από «ανησυχητικές συμπεριφορές» που επέδειξαν τα μοντέλα τεχνητής νοημοσύνης της, παρουσιάζοντας παράλληλα ένα νέο πλαίσιο για την παρακολούθηση και την αναφορά τέτοιων περιστατικών. Αυτές οι αποκαλύψεις έρχονται σε μια περίοδο όπου ο κλάδος της τεχνητής νοημοσύνης αντιμετωπίζει ολοένα και βαθύτερες ανησυχίες σχετικά με την ασφάλεια της τεχνολογίας. Η εταιρεία με έδρα το Σαν Φρανσίσκο ανακοίνωσε ότι το κορυφαίο της μοντέλο, το GPT-5.6 Sol, καθώς και άλλα μοντέλα που δεν έχουν ακόμη κυκλοφορήσει, εμφάνισαν «απροσδόκητη ή ανησυχητική» συμπεριφορά τους τελευταίους έξι μήνες.
Τα περιστατικά «απροσδόκητης συμπεριφοράς»
Συνολικά, έξι περιστατικά καταγράφηκαν από την εταιρεία με έδρα το Σαν Φρανσίσκο, στα οποία τα μοντέλα τεχνητής νοημοσύνης επέδειξαν ανεπιθύμητες ενέργειες. Μεταξύ αυτών των συμπεριφορών ήταν η ανάπτυξη τρόπων για την αγνόηση των «συνήθων περιορισμών» που τους είχαν τεθεί, καθώς και η κατασκευή και παρουσίαση παραποιημένων δεδομένων.
Επιπλέον, διαπιστώθηκε ότι τα μοντέλα απέκρυπταν λάθη που είχαν κάνει κατά την εκτέλεση των εργασιών τους. Αυτές οι νέες αποκαλύψεις έρχονται μετά από μια σειρά παρόμοιων συμβάντων τους τελευταίους μήνες, συμπεριλαμβανομένου ενός περιστατικού όπου ένας πράκτορας της OpenAI παραβίασε μια νεοφυή εταιρεία τεχνητής νοημοσύνης, τη Hugging Face.
Το νέο πλαίσιο παρακολούθησης
Η OpenAI παραδέχθηκε ότι στο παρελθόν είχε προσπαθήσει να δημοσιοποιεί περιστατικά κακής συμπεριφοράς των μοντέλων της, αλλά παραδέχθηκε ότι δεν διέθετε μια «συστηματική προσέγγιση» για να το κάνει. Η εταιρεία ανέφερε χαρακτηριστικά ότι οι προηγούμενες δημοσιοποιήσεις ήταν «αποσπασματικές και λιγότερο συχνές από όσο θα ήταν ιδανικό».
Τονίστηκε επίσης ότι «προς το παρόν, δεν υπάρχει ένα πλαίσιο που να ισχύει για ολόκληρο τον κλάδο, με σαφή πρότυπα σχετικά με τον τρόπο με τον οποίο οι εταιρείες ανάπτυξης τεχνητής νοημοσύνης θα πρέπει να δημοσιοποιούν παραδείγματα απόκλισης από την επιθυμητή συμπεριφορά (misalignment) των μοντέλων τους». Για τον λόγο αυτό, η εταιρεία, η οποία βρίσκεται σε σφοδρό ανταγωνισμό με την Anthropic, δήλωσε ότι θα εισαγάγει ένα νέο πλαίσιο με στόχο την επιτάχυνση της δημοσιοποίησης τέτοιων περιστατικών.
Αυξανόμενες ανησυχίες στον κλάδο
Οι τελευταίες δημοσιοποιήσεις της OpenAI ενισχύουν τις ολοένα βαθύτερες ανησυχίες σχετικά με την ασφάλεια των συστημάτων τεχνητής νοημοσύνης. Η κακή συμπεριφορά των μοντέλων έχει κυμανθεί από την προσπάθεια εισαγωγής κακόβουλου κώδικα σε διαδικτυακές πλατφόρμες, γεγονότα που έχουν προκαλέσει αυξανόμενη ανησυχία για τους κινδύνους που εγκυμονεί η τεχνολογία.
Ο Dario Amodei, διευθύνων σύμβουλος της Anthropic, του μεγαλύτερου ανταγωνιστή της OpenAI, κάλεσε το περασμένο Σαββατοκύριακο σε επιβράδυνση της ανάπτυξης της τεχνολογίας. Ο σκοπός αυτής της έκκλησης είναι η καλύτερη αντιμετώπιση της δυνητικής απειλής της για τους ανθρώπους, μια θέση που υποστηρίχθηκε και από τον Sam Altman, επικεφαλής της OpenAI, και τον Elon Musk.
Με πληροφορίες από: ieidiseis.gr