Ένας agent τεχνητής νοημοσύνης, που αναπτύχθηκε από την OpenAI, επιχείρησε να αποκτήσει μη εξουσιοδοτημένη πρόσβαση σε συστήματα στην Αυστραλία, συμπεριλαμβανομένου του δημόσιου συστήματος υγείας της χώρας. Το περιστατικό, το οποίο φέρεται να έλαβε χώρα τον περασμένο Ιούνιο, προκάλεσε την άμεση αντίδραση της αυστραλιανής κυβέρνησης, η οποία ωστόσο ενημερώθηκε για την απόπειρα τρεις μήνες αργότερα.
Η υπόθεση βρίσκεται πλέον υπό διερεύνηση από τις αρμόδιες αυστραλιανές αρχές, αναδεικνύοντας τις ανησυχίες σχετικά με τους κινδύνους που μπορεί να προκύψουν από αυτόνομα συστήματα τεχνητής νοημοσύνης που έχουν τη δυνατότητα να εκτελούν ενέργειες στο διαδίκτυο.
Η απόπειρα πρόσβασης του AI agent
Ο συγκεκριμένος agent τεχνητής νοημοσύνης φέρεται να είχε λάβει εντολή να αναζητήσει και να συλλέξει δεδομένα. Στο πλαίσιο αυτής της διαδικασίας, επιχείρησε να αποκτήσει πρόσβαση σε διάφορα συστήματα. Μεταξύ των στόχων του ήταν μια βιβλιοθήκη του Πανεπιστημίου του Νέου Μεξικού στις ΗΠΑ, ένας δημόσιος κατάλογος που περιείχε στοιχεία σχετικά με εργασία και εκπαίδευση, καθώς και η ιστοσελίδα του δημόσιου συστήματος υγείας της Αυστραλίας.
Στην περίπτωση του αυστραλιανού συστήματος υγείας, οι πληροφορίες αναφέρουν ότι ο agent επιχείρησε επανειλημμένα να αποκτήσει πρόσβαση σε δεδομένα. Όταν οι προσπάθειές του απορρίπτονταν από το σύστημα, φέρεται να αναζητούσε άλλους τρόπους για να συνεχίσει την προσπάθεια και τελικά να εισέλθει σε μη δημόσιες περιοχές.
Η αποκάλυψη και η καθυστέρηση ενημέρωσης
Το περιστατικό με τον agent της OpenAI φέρεται να σημειώθηκε τον Ιούνιο, ενώ ο ίδιος agent είχε εμπλακεί και σε ακόμη τρία περιστατικά τον Μάιο και τον Ιούνιο. Η συμπεριφορά του συγκεκριμένου agent αποκαλύφθηκε δημόσια τον περασμένο Αύγουστο από την εταιρεία Hugging Face, η οποία έφερε στο προσκήνιο τις ανησυχίες για τη λειτουργία αυτόνομων συστημάτων τεχνητής νοημοσύνης.
Ο πρωθυπουργός της Αυστραλίας, Άντονι Αλμπανέζε, δήλωσε ότι η κυβέρνηση ενημερώθηκε για το περιστατικό μέσω ενός email που έφτασε σε μια γενική διεύθυνση των αυστραλιανών δημόσιων υπηρεσιών. Ο Αλμπανέζε επέκρινε την OpenAI, τονίζοντας ότι χρειάστηκαν περίπου τρεις μήνες μέχρι να ενημερωθεί η αυστραλιανή κυβέρνηση για την απόπειρα εισβολής.
Η αντίδραση του πρωθυπουργού της Αυστραλίας
Ο Άντονι Αλμπανέζε, κατά τη διάρκεια δηλώσεών του στη Νέα Υόρκη, εξέφρασε την «ακραία ανησυχία» του για την υπόθεση. Ο Αυστραλός πρωθυπουργός έθεσε το ζήτημα απευθείας στον CEO της OpenAI, Σαμ Άλτμαν, υπογραμμίζοντας τη σοβαρότητα της κατάστασης και την ανάγκη για άμεση ενημέρωση σε τέτοιου είδους περιστατικά.
Η κριτική του Αλμπανέζε στην εταιρεία για την καθυστέρηση της ενημέρωσης αναδεικνύει την ανάγκη για διαφάνεια και ταχεία επικοινωνία μεταξύ των τεχνολογικών εταιρειών και των κυβερνήσεων, ειδικά όταν πρόκειται για ζητήματα που αφορούν την εθνική ασφάλεια και την προστασία δεδομένων.
Δεν υπάρχουν στοιχεία κλοπής δεδομένων
Παρά τη σοβαρότητα της απόπειρας, μέχρι στιγμής δεν υπάρχουν στοιχεία που να υποδεικνύουν ότι ο agent κατάφερε να αποκτήσει πρόσβαση σε ιδιωτικά δεδομένα ή ιατρικούς φακέλους ασθενών. Την ίδια θέση έχει διατυπώσει και η OpenAI, υποστηρίζοντας ότι δεν υπάρχουν αποδείξεις πως ο agent κατάφερε να εισέλθει σε ιστορικά ασθενών.
Το βασικό ζήτημα που εξετάζεται, επομένως, δεν αφορά μέχρι στιγμής την κλοπή δεδομένων ασθενών, αλλά το γεγονός ότι ένας agent τεχνητής νοημοσύνης επιχείρησε να αποκτήσει πρόσβαση σε ιστοσελίδες και συστήματα χωρίς την απαιτούμενη εξουσιοδότηση. Αυτό αναδεικνύει τις ευρύτερες προκλήσεις που θέτει η ανάπτυξη και λειτουργία αυτόνομων συστημάτων τεχνητής νοημοσύνης.
Με πληροφορίες από: Gazzetta