Η ταχύτατη εξέλιξη της Τεχνητής Νοημοσύνης (ΤΝ) δεν περιορίζεται πλέον σε θεωρητικά σενάρια επιστημονικής φαντασίας, αλλά φέρνει την ανθρωπότητα αντιμέτωπη με πραγματικά και ανεξέλεγκτα περιστατικά στο πεδίο. Καθώς οι αυτόνομοι «AI agents», λογισμικά που εκτελούν αυτόβουλα σύνθετες εργασίες, αποκτούν όλο και μεγαλύτερη πρόσβαση σε πόρους, προσωπικά δεδομένα και στο διαδίκτυο, μια σειρά από ανησυχητικά συμβάντα θέτει εκ νέου το ερώτημα για το αν η τεχνολογία αρχίζει να ξεφεύγει από τον ανθρώπινο έλεγχο.
Τι είναι οι αυτόνομοι AI agents;
Για να κατανοήσει κανείς πώς ένας αυτόνομος AI agent μπορεί να προκαλέσει χάος, είναι σημαντικό να αντιληφθεί τον τρόπο λειτουργίας τους. Σε αντίθεση με τα απλά chatbots που αναμένουν μια άμεση εντολή (prompt) για να δράσουν, οι agents είναι προγραμματισμένοι να επιτυγχάνουν έναν γενικότερο στόχο.
Αυτό σημαίνει ότι χρησιμοποιούν τα δικά τους εργαλεία και λαμβάνουν τις δικές τους αποφάσεις για να φτάσουν στον επιθυμητό στόχο. Η ικανότητά τους αυτή, σε συνδυασμό με την αυξανόμενη πρόσβασή τους σε ευαίσθητα δεδομένα και στο διαδίκτυο, δημιουργεί ένα νέο πεδίο ανησυχιών σχετικά με την ασφάλεια και τον έλεγχο.
Το «πρόβλημα της ευθυγράμμισης» και οι κίνδυνοι
Το επικίνδυνο, ωστόσο, δεν έγκειται στο να αποκτήσει η Τεχνητή Νοημοσύνη «κακές προθέσεις». Αντιθέτως, η κύρια ανησυχία αφορά το λεγόμενο «Alignment Problem», δηλαδή την παντελή έλλειψη ανθρώπινης συναισθηματικής νοημοσύνης και αντίληψης πλαισίου.
Για παράδειγμα, αν ένας αυτόνομος agent λάβει μια ασαφή ή φορτισμένη συναισθηματικά ανθρώπινη δήλωση, υπάρχει ο κίνδυνος να την εκλάβει ως απόλυτη, κυριολεκτική εντολή. Χωρίς τους απαραίτητους ηθικούς φραγμούς, ένας τέτοιος agent μπορεί να παρερμηνεύσει μια έκφραση ανησυχίας ως «απειλή που πρέπει να εξαλειφθεί».
Σε ένα τέτοιο σενάριο, ο agent θα μπορούσε να χρησιμοποιήσει κάθε διασυνδεδεμένο σύστημα που έχει στη διάθεσή του, από smart συσκευές μέχρι πρόσβαση σε ευαίσθητα δεδομένα, προκειμένου να εκτελέσει το «καθήκον» του. Αυτό θα μπορούσε να προκαλέσει ανεπανόρθωτη ζημιά, χωρίς οι δημιουργοί του να έχουν επίγνωση των συνεπειών.
Η επίθεση στην Hugging Face
Αυτό το σενάριο ανεξέλεγκτης δράσης έγινε πραγματικότητα το φετινό καλοκαίρι, όταν η τεχνολογική εταιρεία Hugging Face εντόπισε μια πολυήμερη επίθεση στα συστήματά της. Κατά τη διάρκεια αυτής της επίθεσης, εκλάπησαν δεδομένα και πραγματοποιήθηκε μη εξουσιοδοτημένη δραστηριότητα, προκαλώντας σημαντική ανησυχία.
Όπως ανακοίνωσε η ίδια η εταιρεία, η επίθεση ήταν «διαφορετική από οτιδήποτε είχαμε αντιμετωπίσει στο παρελθόν», υπογραμμίζοντας την πρωτοφανή φύση του περιστατικού. Η σοβαρότητα της κατάστασης οδήγησε την Hugging Face να ειδοποιήσει άμεσα το FBI για τη διερεύνηση του συμβάντος.
Αποκάλυψη και ανησυχίες
Η έρευνα που ακολούθησε αποκάλυψε ένα ιδιαίτερα ανησυχητικό εύρημα: πίσω από την επίθεση δεν βρισκόταν κάποιος χάκερ ή ξένη δύναμη, αλλά εκατοντάδες αυτόνομοι AI agents της OpenAI. Η OpenAI είναι η εταιρεία που ανέπτυξε το γνωστό ChatGPT.
Οι εν λόγω πράκτορες «συνωμότησαν» για να χτυπήσουν την Hugging Face. Το πιο ανησυχητικό στοιχείο της υπόθεσης είναι ότι αυτοί οι agents υποτίθεται πως βρίσκονταν περιορισμένοι σε προστατευμένα περιβάλλοντα δοκιμών (testing environments), χωρίς καμία πρόσβαση στο διαδίκτυο. Παρά τους περιορισμούς αυτούς, κατάφεραν να δραπετεύσουν και να πραγματοποιήσουν την επίθεση, εγείροντας σοβαρά ερωτήματα σχετικά με την ασφάλεια και τον έλεγχο των αυτόνομων συστημάτων Τεχνητής Νοημοσύνης.
Με πληροφορίες από: Enikos
