Οι επικεφαλής των μεγαλύτερων εταιρειών τεχνητής νοημοσύνης (AI) υιοθέτησαν χθες, Δευτέρα, ένα «ηθικά δεσμευτικό» κείμενο για την αυτορρύθμιση του κλάδου, έπειτα από συνάντηση που είχαν στον Λευκό Οίκο με τον Αμερικανό πρόεδρο Ντόναλντ Τραμπ. Η συμφωνία αυτή έρχεται εν μέσω αυξανόμενων ανησυχιών για τους κινδύνους της τεχνολογίας, καθώς πρόσφατη έρευνα έφερε στο φως σοβαρά κενά ασφαλείας σε κινεζικά μοντέλα AI, τα οποία παρείχαν οδηγίες για την παραγωγή βιολογικών όπλων και την εκτέλεση δολοφονιών.
Συμφωνία κολοσσών της τεχνητής νοημοσύνης στον Λευκό Οίκο
Ο Αμερικανός πρόεδρος Ντόναλντ Τραμπ συναντήθηκε κεκλεισμένων των θυρών με τους επικεφαλής των μεγαλύτερων εταιρειών τεχνητής νοημοσύνης στον Λευκό Οίκο. Μετά τη συνάντηση, ο Τραμπ δέχθηκε ερωτήσεις δημοσιογράφων και ανήρτησε στον λογαριασμό του στο Truth Social τη συμφωνία που υπεγράφη.
Τη συμφωνία υπέγραψαν ο ίδιος ο Τραμπ, καθώς και οι Σουντάρ Πιντσάι της Google, Ντάριο Αμοντέι της Anthropic, Μαρκ Ζάκερμπεργκ της Meta, Γκρεγκ Μπρόκμαν της OpenAI, Ίλον Μασκ της SpaceX και Τζένσεν Χουάνγκ της Nvidia. Ο Αμερικανός πρόεδρος σχολίασε ότι το κείμενο είναι «σχεδόν σαν ένα Σύνταγμα κατά μία έννοια», προσθέτοντας ότι «οι μεγαλύτεροι άνθρωποι στον κόσμο το υπέγραψαν και το υπέγραψα εγώ ως πρόεδρος».
Βασικές δεσμεύσεις για την ασφάλεια των συστημάτων
Με βάση τη συμφωνία, οι εταιρείες αναλαμβάνουν την ευθύνη να εγγυώνται την ασφάλεια των τεχνολογιών τους. Δεσμεύτηκαν να υιοθετήσουν δικλείδες ασφαλείας, προκειμένου τα μοντέλα AI να λειτουργούν όπως προβλέπεται, καθώς και να εντοπίζουν και να διορθώνουν τυχόν ζητήματα γρήγορα.
Το κείμενο προβλέπει τη δημιουργία «ισχυρών εσωτερικών μηχανισμών ελέγχου» για τη συμπεριφορά των μοντέλων AI σε τομείς όπως η «κυβερνοασφάλεια» ή οι «χημικές απειλές». Επίσης, περιλαμβάνει τη συγκρότηση εξειδικευμένων εσωτερικών ομάδων για τη διαχείριση αυτών των ελέγχων, τη διενέργεια «εξωτερικών» αξιολογήσεων και τον ορισμό «ανεξάρτητων επιτροπών» στο ανώτατο επίπεδο της ιεραρχίας. Οι εταιρείες δεσμεύθηκαν επιπλέον να συσκέπτονται «τακτικά για να καθορίζουν τα πρότυπα και τις σωστές πρακτικές».
Ανησυχίες για κινδύνους και ρυθμιστικούς κανόνες
Ο Μαρκ Ζάκερμπεργκ της Meta χαρακτήρισε τη συνάντηση «ιστορική συζήτηση» και σχολίασε ότι η συμφωνία προσφέρει «στον αμερικανικό λαό και τους πελάτες την αυτοπεποίθηση ότι η τεχνολογία λειτουργεί όπως προβλέπεται». Από την πλευρά του, ο Ντάριο Αμοντέι, επικεφαλής της Anthropic, ο οποίος συνέβαλε στην έναρξη της συζήτησης για την επιβολή ρυθμιστικών κανόνων στην AI και ζήτησε πρόσφατα να επιβραδυνθεί η ανάπτυξή της, δήλωσε: «Πιστεύω ότι αυτή η τεχνολογία ενέχει πραγματικούς κινδύνους».
Ο Αμερικανός πρόεδρος Ντόναλντ Τραμπ σημείωσε επίσης ότι θα συστήσει επιτροπή που θα ελέγχει την ασφάλεια των εργαλείων AI, χωρίς ωστόσο να διευκρινίσει ποιος θα συμμετέχει σε αυτή.
Παραβίαση κινεζικών μοντέλων και οδηγίες για επικίνδυνες ενέργειες
Σοβαρά κενά ασφαλείας σε δημοφιλή συστήματα τεχνητής νοημοσύνης έφερε στο φως πρόσφατη έρευνα, η οποία απέδειξε πως οι μηχανισμοί προστασίας μπορούν να καταρρεύσουν. Ερευνητές παραβίασαν τις δικλείδες ασφαλείας σε κινεζικά μοντέλα τεχνητής νοημοσύνης, τα οποία έδωσαν οδηγίες για βιολογικά όπλα και δολοφονίες.
Τα ανησυχητικά ευρήματα προέκυψαν από την εταιρεία Mindgard, η οποία επικεντρώνεται στον έλεγχο ασφαλείας των συστημάτων AI. Συγκεκριμένα, οι ειδικοί της εταιρείας ανακάλυψαν τον περασμένο Ιούλιο πως μέσω της μεθόδου του jailbreaking, τα μοντέλα Kimi K2.6 και K3 Swarm της κινεζικής εταιρείας Moonshot είναι σε θέση να αψηφήσουν τους αυστηρούς περιορισμούς που έχουν σχεδιαστεί για να εμποδίζουν την παροχή τόσο επικίνδυνων πληροφοριών. Η κατασκευάστρια εταιρεία Moonshot ξεκίνησε άμεσα εσωτερική έρευνα για το ζήτημα και, απαντώντας στο BBC, υπογράμμισε ότι αντιμετωπίζει τη συνδρομή εξωτερικών φορέων ως «βασικό πυλώνα για την ανάπτυξη καλύτερης και ασφαλέστερης τεχνητής νοημοσύνης», ενώ βρίσκεται σε ανοιχτή επικοινωνία με τη Mindgard.
Διαφορετικές απειλές και φόβοι για κακόβουλους χρήστες
Ο επικεφαλής της Mindgard, Πίτερ Γκάραχαν, μιλώντας στην εκπομπή Tech Life του BBC World Service, εξέφρασε τον έντονο προβληματισμό του για τη συμπεριφορά των Kimi K2.6 και K3 Swarm. Όπως σημείωσε, «Μόλις λειτουργήσει το jailbreak, θα μιλήσουν για οποιοδήποτε θέμα. Θα παρέχουν ακόμα και συστάσεις για άλλα θέματα που είναι επίσης κακόβουλα και θα είναι ευρηματικό και δημιουργικό».
Η διαδικασία του jailbreak δημιουργεί εντελώς διαφορετικές απειλές συγκριτικά με τα πρόσφατα περιστατικά που έχουν απασχολήσει τον τομέα της τεχνητής νοημοσύνης, όπου αυτόνομα συστήματα (agents) από αμερικανικούς κολοσσούς όπως η OpenAI, η Meta και η Anthropic παραβίασαν διάφορες διαδικτυακές πλατφόρμες. Αν και οι πρακτικές παράκαμψης των δικλείδων ασφαλείας είναι εξαιρετικά περίπλοκες, αρκετοί αναλυτές εκφράζουν φόβους ότι κακόβουλοι χρήστες και χάκερ ενδέχεται να εκμεταλλευτούν τέτοιες τεχνικές για να προκαλέσουν σημαντικές ζημιές. Πρόσφατα, η Anthropic γνωστοποίησε ότι σταμάτησε προσπάθειες εκμετάλλευσης ενός μοντέλου της για «κακόβουλη δραστηριότητα», η οποία ενδεχομένως να σχετιζόταν με την ανάπτυξη βιολογικών απειλών. Ωστόσο, η εταιρεία Mindgard δεν έχει επιβεβαιώσει εάν οι απαντήσεις που παρήγαγε το Kimi σε αυτά τα ακραία σενάρια θα μπορούσαν να εφαρμοστούν με επιτυχία στην πράξη.
Με πληροφορίες από: News.gr, Ieidiseis
