Μαχητές της Υεμένης επιχείρησαν να χρησιμοποιήσουν το μοντέλο τεχνητής νοημοσύνης Claude της Anthropic για την ανάπτυξη λογισμικού καθοδήγησης, ελέγχου και πλοήγησης, το οποίο προοριζόταν για τους βαλλιστικούς πυραύλους τους. Αυτή η προσπάθεια ανακοινώθηκε από την αμερικανική εταιρεία, η οποία δημοσίευσε μια έκθεση σχετικά με τις απειλές στον τομέα των πληροφοριών. Η έκθεση υπογραμμίζει τους διαρκώς αυξανόμενους κινδύνους που προκύπτουν από την πιθανότητα προηγμένα συστήματα τεχνητής νοημοσύνης να περιέλθουν σε λάθος χέρια.
Η ανακοίνωση της Anthropic
Η αμερικανική εταιρεία Anthropic γνωστοποίησε ότι εντόπισε έναν «πυρήνα παραγόντων απειλής με έδρα τη βόρεια Υεμένη», ένα μεγάλο μέρος της οποίας ελέγχεται από τους αντάρτες Χούθι. Αυτοί οι παράγοντες φέρεται να εκτελούσαν τρία προγράμματα ανάπτυξης όπλων, χρησιμοποιώντας την τεχνολογία της εταιρείας.
Η ανακοίνωση έγινε στο πλαίσιο της έκθεσης της Anthropic για τις απειλές στον τομέα των πληροφοριών, η οποία δημοσιεύθηκε την Πέμπτη. Η εταιρεία δεν κατονόμασε ρητά τους υποστηριζόμενους από το Ιράν Χούθι, αλλά προσδιόρισε την περιοχή προέλευσης των παραγόντων απειλής.
Η χρήση του Claude για ανάπτυξη όπλων
Ο πυρήνας των παραγόντων στη Υεμένη επιδίωξε να αναπτύξει διάφορα είδη όπλων. Μεταξύ αυτών περιλαμβάνονταν ένας βαλλιστικός πύραυλος πολλαπλών σταδίων, ένας πύραυλος με πολλαπλές διαμορφώσεις, καθώς και ένας κατευθυνόμενος πύραυλος. Ο τελευταίος χρησιμοποιούσε έναν «υπολογιστή πτήσης κατηγορίας κινητού τηλεφώνου ευρείας εμπορικής διαθεσιμότητας».
Σύμφωνα με την Anthropic, οι παράγοντες χρησιμοποίησαν το Claude Code στη θέση ανθρώπων μηχανικών λογισμικού. Στόχος τους ήταν να αναπτύξουν το λογισμικό καθοδήγησης, πλοήγησης και ελέγχου, το οποίο είναι απαραίτητο για την κατεύθυνση και τη σταθεροποίηση ενός ιπτάμενου οχήματος.
Λεπτομέρειες της διαδικασίας ανάπτυξης
Η έκθεση της Anthropic περιγράφει λεπτομερώς τον τρόπο με τον οποίο χρησιμοποιήθηκε το Claude. Οι παράγοντες αξιοποίησαν την τεχνητή νοημοσύνη για να ενσωματώσουν έναν πιλότο αυτόματης πλοήγησης ανοιχτού κώδικα σε έναν υπολογιστή πτήσης κατηγορίας κινητού τηλεφώνου. Αυτό περιλάμβανε τη συγγραφή του λογισμικού ελέγχου και εκτίμησης θέσης, τη ρύθμιση των παραμέτρων ελέγχου, την εκτέλεση μιας διαδικασίας κατασκευής firmware και την πραγματοποίηση προσομοίωσης πτήσης.
Η συγκεκριμένη εφαρμογή αναδεικνύει την ικανότητα της τεχνητής νοημοσύνης να συμβάλλει σε σύνθετες τεχνικές διαδικασίες, αντικαθιστώντας σε ορισμένες περιπτώσεις την ανθρώπινη εργασία σε κρίσιμους τομείς.
Οι κίνδυνοι και τα μέτρα ασφαλείας
Η μελέτη της Anthropic αναδεικνύει τους αυξανόμενους κινδύνους που συνδέονται με την πιθανότητα προηγμένα συστήματα τεχνητής νοημοσύνης να πέσουν σε λάθος χέρια. Καθώς η τεχνολογία συνεχίζει να βελτιώνεται με ταχύτατους ρυθμούς, η πρόκληση για τα αμερικανικά εργαστήρια τεχνητής νοημοσύνης, τα οποία βρίσκονται στην αιχμή της ανάπτυξης, είναι να διασφαλίσουν ότι μη εξουσιοδοτημένοι παράγοντες δεν θα μπορούν να χρησιμοποιήσουν την τεχνολογία για να επιτεθούν στις ΗΠΑ και στους συμμάχους τους.
Η Anthropic δήλωσε ότι τα συστήματα ασφαλείας της μπλόκαραν «πολλά από τα αιτήματά τους, αλλά όχι όλα». Αυτό υποδηλώνει μια συνεχή προσπάθεια για την ενίσχυση των μέτρων ασφαλείας. Η ίδια έκθεση ανέφερε επίσης ότι επιστήμονες επιχείρησαν επανειλημμένα να χρησιμοποιήσουν το Claude για έρευνα σχετικά με βιολογικά όπλα, γεγονός που διευρύνει το φάσμα των δυνητικών κινδύνων.
Με πληροφορίες από: Topontiki