Η Anthropic, η αμερικανική startup πίσω από το chatbot Claude και άλλα συστήματα τεχνητής νοημοσύνης, παραδέχτηκε πρόσφατα μια σειρά περιστατικών κυβερνοεπιθέσεων που αφορούσαν τα μοντέλα της. Η εταιρεία χαρακτήρισε αυτά τα περιστατικά ως «αποτυχία στην επιχειρησιακή ασφάλεια» και ανακοίνωσε ότι έχει ήδη προχωρήσει σε αυστηροποίηση των διαδικασιών δοκιμών της.
Αποκαλύψεις και παραδοχή μη ευθυγράμμισης
Τον Ιούλιο, η Anthropic είχε αποκαλύψει ότι τα μοντέλα της είχαν αποκτήσει πρόσβαση στο ανοιχτό Διαδίκτυο τρεις φορές, αποκτώντας παράλληλα μη εξουσιοδοτημένη πρόσβαση στα συστήματα άλλων εταιρειών. Σε μια νέα ανάρτηση στο ιστολόγιό της σχετικά με αυτά τα περιστατικά, η εταιρεία παραδέχτηκε ότι η τεχνολογία της «δεν ήταν απόλυτα ευθυγραμμισμένη» με τις ανθρώπινες αξίες και τους στόχους.
Συγκεκριμένα, τρεις οργανισμοί, των οποίων τα ονόματα δεν δημοσιοποιήθηκαν, δέχθηκαν επίθεση από τρία μοντέλα της Anthropic. Αυτό συνέβη μετά από μια «παρεξήγηση» με τον συνεργάτη της στις δοκιμές, την εταιρεία Irregular, η οποία είχε ως αποτέλεσμα τα μοντέλα να αποκτήσουν πρόσβαση στο διαδίκτυο.
Αιτίες των προβλημάτων ασφαλείας
Η Anthropic ανέφερε ότι τα μοντέλα είχαν υποβληθεί σκόπιμα σε δοκιμές χωρίς δικλίδες κυβερνοασφάλειας. Η πρόσβαση στο ανοιχτό Διαδίκτυο, ένα γεγονός που στον κόσμο των δοκιμών τεχνητής νοημοσύνης παρομοιάζεται με το να αφήνεις την εξώπορτα ανοιχτή, οφειλόταν σε αυτή την παρεξήγηση με την εξωτερική εταιρεία που συμμετείχε στις δοκιμές.
Η εταιρεία παραδέχτηκε ότι «βασιζόμασταν σε μεγάλο βαθμό σε ένα μόνο επίπεδο άμυνας ενώ χρειαζόμασταν περισσότερα».
Μέτρα και αλλαγές στις δοκιμές
Ως άμεση συνέπεια των περιστατικών, η εταιρεία αρχικά ανέστειλε τις εσωτερικές και εξωτερικές δοκιμές κυβερνοασφάλειας των μοντέλων της. Στόχος ήταν η εφαρμογή ενός αυστηρότερου πλαισίου ασφαλείας. Μεταξύ των νέων μέτρων περιλαμβάνεται η απαίτηση από τις εξωτερικές εταιρείες δοκιμών να δεσμεύονται σε ένα σύνολο προτύπων ασφαλείας.
Αυτά τα πρότυπα περιλαμβάνουν την παροχή σαφών οδηγιών στα μοντέλα κατά τη διάρκεια των δοκιμών, όπως η εντολή «δεν πρέπει να αποκτάς πρόσβαση στο Διαδίκτυο».
Επανέναρξη δοκιμών και νέες διαπιστώσεις
Μετά την εφαρμογή των νέων μέτρων, η Anthropic δήλωσε ότι επανέλαβε τις εσωτερικές και εξωτερικές δοκιμές κυβερνοασφάλειας. Παράλληλα, όπως και η OpenAI, η οποία αποκάλυψε παραβίαση της ασφάλειας των δοκιμών τον ίδιο μήνα, η Anthropic ανέστειλε ορισμένες δοκιμές υψηλού κινδύνου που χρησιμοποιούν ενισχυτική μάθηση (reinforcement learning).
Η ενισχυτική μάθηση είναι μια τεχνική ανάπτυξης μέσω δοκιμής και λάθους, κατά την οποία τα συστήματα τεχνητής νοημοσύνης επιβραβεύονται όταν βρίσκουν τρόπους να εκτελέσουν μια συγκεκριμένη εργασία. Στην τελευταία της ανάρτηση, η Anthropic δήλωσε ότι διαπίστωσε πως ελαττωματικές ρυθμίσεις εκπαίδευσης αποτελούσαν «δυσανάλογα σημαντικούς παράγοντες» στην πρόκληση μη ευθυγραμμισμένης συμπεριφοράς.
Με πληροφορίες από: naftemporiki.gr
