Ένα λάθος της τεχνητής νοημοσύνης λίγο έλειψε να οδηγήσει τις Ηνωμένες Πολιτείες σε στρατιωτική επιχείρηση εναντίον πλοίου από την Κίνα. Το περιστατικό αυτό θα μπορούσε να προκαλέσει μια επικίνδυνη κλιμάκωση στις σχέσεις μεταξύ της Ουάσιγκτον και του Πεκίνου. Η αμερικανική πλευρά είχε αρχίσει να προετοιμάζει την αναχαίτιση του πλοίου, βασιζόμενη σε πληροφορίες που αργότερα αποδείχθηκαν λανθασμένες.
Η λανθασμένη έκθεση πληροφοριών
Η αμερικανική πλευρά είχε ξεκινήσει τις προετοιμασίες για την αναχαίτιση ενός κινεζικού πλοίου, καθώς μία έκθεση των υπηρεσιών πληροφοριών ανέφερε πως αυτό μετέφερε εξαρτήματα για πρόγραμμα πυρηνικών όπλων. Οι πληροφορίες αυτές οδήγησαν σε σοβαρές ανησυχίες και στην εκπόνηση σχεδίων για στρατιωτική επέμβαση.
Ωστόσο, λίγο πριν από την προγραμματισμένη επιχείρηση, διαπιστώθηκε ότι η πληροφορία για το πλοίο από την Κίνα είχε προκύψει με τη βοήθεια ενός chatbot και ήταν εντελώς λανθασμένη. Αυτή η ανακάλυψη απέτρεψε την τελευταία στιγμή μια ενδεχόμενη σύγκρουση.
Ο ρόλος του chatbot στην παραγωγή της πληροφορίας
Η έκθεση που προκάλεσε την κινητοποίηση είχε συνταχθεί από έναν αναλυτή της Διοίκησης Ειδικών Επιχειρήσεων των ΗΠΑ. Ο αναλυτής αυτός χρησιμοποίησε ένα chatbot για να επεξεργαστεί πληροφορίες σχετικά με το μανιφέστο του πλοίου, δηλαδή τον κατάλογο του φορτίου του.
Το σύστημα τεχνητής νοημοσύνης συνδύασε πληροφορίες από ανοιχτές πηγές με απόρρητες πληροφορίες σημάτων. Αυτή η διαδικασία οδήγησε σε ένα λανθασμένο συμπέρασμα σχετικά με το φορτίο του πλοίου, υποδεικνύοντας την ύπαρξη εξαρτημάτων για πυρηνικά όπλα.
Η διανομή και η αποκάλυψη του λάθους
Αφού το chatbot παρήγαγε τα λανθασμένα ευρήματα, ο αναλυτής χρησιμοποίησε εκ νέου την τεχνητή νοημοσύνη. Σκοπός ήταν να μετατρέψει αυτά τα ευρήματα σε μία τυπική έκθεση πληροφοριών, η οποία στη συνέχεια διανεμήθηκε στους αρμόδιους αξιωματούχους των ΗΠΑ.
Λίγο πριν από την προγραμματισμένη στρατιωτική επιχείρηση, οι αξιωματούχοι εξέτασαν λεπτομερέστερα την έκθεση. Κατά τη διάρκεια αυτής της εξέτασης, διαπίστωσαν ότι η έκθεση είχε συνταχθεί με τη βοήθεια τεχνητής νοημοσύνης, αποκαλύπτοντας το λάθος που παραλίγο να οδηγήσει σε επικίνδυνες ενέργειες.
Ο κίνδυνος κλιμάκωσης και οι «παραισθήσεις» της AI
Μία από τις πηγές χαρακτήρισε την έκθεση «εντελώς ψευδή», προσθέτοντας ότι «παραλίγο να ξεκινήσει έναν πόλεμο». Πράγματι, μία αμερικανική επιχείρηση εναντίον κινεζικού πλοίου θα μπορούσε να οδηγήσει σε σοβαρή κλιμάκωση και ενδεχομένως σε ένοπλη σύγκρουση μεταξύ των Ηνωμένων Πολιτειών και της Κίνας.
Πηγές αναφέρουν ότι περιστατικά στα οποία η τεχνητή νοημοσύνη παράγει λανθασμένες πληροφορίες, γνωστά ως «hallucinations» ή «παραισθήσεις», δεν αποτελούν μεμονωμένο φαινόμενο. Αυτό υπογραμμίζει τους κινδύνους που εγκυμονεί η υπερβολική εξάρτηση από τέτοια συστήματα σε κρίσιμες καταστάσεις.
Αδιευκρίνιστα σημεία και απουσία σχολίων
Δεν έχει διευκρινιστεί εάν το chatbot που χρησιμοποιήθηκε ήταν ένα εμπορικά διαθέσιμο εργαλείο ή αν επρόκειτο για ένα ειδικό εργαλείο που αναπτύχθηκε από την αμερικανική κυβέρνηση. Επίσης, δεν κατέστη δυνατό να εξακριβωθεί ποιο ήταν το πραγματικό φορτίο που αναγνωρίστηκε λανθασμένα από την τεχνητή νοημοσύνη.
Η Διοίκηση Ειδικών Επιχειρήσεων Ειρηνικού και το Πεντάγωνο δεν ανταποκρίθηκαν σε αίτημα για σχόλιο σχετικά με το περιστατικό. Η απουσία σχολίων αφήνει ορισμένα ερωτήματα αναπάντητα σχετικά με τις λεπτομέρειες και τις επιπτώσεις του συμβάντος.
Με πληροφορίες από: Newsit