Νέες ανησυχίες για τον τρόπο με τον οποίο αναπτύσσεται η τεχνητή νοημοσύνη έρχονται από το εσωτερικό της OpenAI. Ο Ντέιβιντ Ρόμπινσον, πρώην στέλεχος της ομάδας ασφάλειας της εταιρείας, ανακοίνωσε την αποχώρησή του, καταγγέλλοντας σοβαρά προβλήματα στην εταιρική κουλτούρα. Την ίδια στιγμή, ο Τζέφρι Ίρβινγκ, πρώην στέλεχος της OpenAI, διατύπωσε μια δυσοίωνη εκτίμηση για τους κινδύνους που εγκυμονεί η ανάπτυξη της τεχνητής νοημοσύνης.
Οι καταγγελίες του Ντέιβιντ Ρόμπινσον
Ο Ντέιβιντ Ρόμπινσον, ο οποίος είχε συμμετάσχει στη σύνταξη εκθέσεων ασφαλείας για σημαντικές κυκλοφορίες μοντέλων της OpenAI, επέκρινε την εταιρική κουλτούρα της εταιρείας. Σε άρθρο του στο The Atlantic, με τίτλο «I Quit OpenAI Because Its Culture Is Broken», υποστήριξε ότι το ζήτημα δεν μπορεί να επιλυθεί μόνο μέσω νέων κανονισμών.
Ο Ρόμπινσον συμφωνεί με άλλους εργαζομένους που αποχώρησαν πρόσφατα, τονίζοντας ότι οι εταιρείες που αναπτύσσουν αυτή την τεχνολογία δεν είναι ούτε κατά διάνοια αρκετά προσεκτικές. Επέκρινε ιδιαίτερα την ταχύτητα με την οποία προχωρούν οι εταιρείες του κλάδου, σημειώνοντας ότι «καθώς η εταιρεία τρέχει από τη μία κυκλοφορία στην επόμενη, αποτυγχάνει να επιτύχει το επίπεδο προσοχής που πιστεύω ότι απαιτείται». Προειδοποίησε επίσης ότι η λογική της συνεχούς δοκιμής και διόρθωσης δεν επαρκεί όσο τα συστήματα γίνονται ισχυρότερα και πιο αυτόνομα.
Προκλήσεις ασφαλείας και αναστολές
Ο Ρόμπινσον αναφέρθηκε σε ένα περιστατικό όπου AI agents της OpenAI απέκτησαν πρόσβαση σε υποδομές της Hugging Face. Η υπόθεση αυτή εντάσσεται σε μια ευρύτερη σειρά περιστατικών, καθώς η OpenAI έχει ενημερώσει περισσότερους από 100 οργανισμούς για προβληματική ή μη εξουσιοδοτημένη δραστηριότητα των agents της.
Παράλληλα, η OpenAI έχει βρεθεί αντιμέτωπη με νέες προκλήσεις ασφαλείας. Η εταιρεία ανέστειλε την κυκλοφορία ενός μοντέλου επόμενης γενιάς μετά από εσωτερικές δοκιμές που ανέδειξαν προβλήματα ασφάλειας και ευθυγράμμισης.
Η δυσοίωνη εκτίμηση του Τζέφρι Ίρβινγκ
Ακόμη πιο δυσοίωνη εκτίμηση διατύπωσε ο Τζέφρι Ίρβινγκ, πρώην στέλεχος της OpenAI και πρώην επικεφαλής επιστήμονας του βρετανικού AI Security Institute. Σε άρθρο του στο TIME, υποστήριξε ότι «πιστεύω ότι υπάρχει περίπου 50% πιθανότητα να πεθάνουμε όλοι εξαιτίας της ανάπτυξης συστημάτων τεχνητής νοημοσύνης εξυπνότερων από τον άνθρωπο και ότι οι ενέργειές μας τα επόμενα δύο έως δέκα χρόνια θα καθορίσουν το αποτέλεσμα».
Αιτήματα για αυστηρότερες πρακτικές
Ο Ντέιβιντ Ρόμπινσον ζητά την υιοθέτηση αυστηρότερων πρακτικών, παρόμοιων με εκείνες που εφαρμόζονται σε κλάδους υψηλού κινδύνου, όπως η πυρηνική ενέργεια και η αεροπορία. Επιπλέον, προτείνει την ανάπτυξη νέων μεθόδων που θα επιτρέπουν τον αποτελεσματικό περιορισμό ισχυρών αυτόνομων συστημάτων, προκειμένου να διασφαλιστεί η ασφαλής εξέλιξη της τεχνητής νοημοσύνης.
Με πληροφορίες από: topontiki.gr
