Η εταιρεία τεχνητής νοημοσύνης Anthropic ανακοίνωσε πρόσφατα ότι απέτρεψε διάφορες απόπειρες κατάχρησης των μοντέλων της, συμπεριλαμβανομένου του Claude. Οι απόπειρες αυτές αφορούσαν ένα ευρύ φάσμα δραστηριοτήτων, από κυβερνοεπιθέσεις και κατασκοπεία, έως και έρευνα που θα μπορούσε να συνεισφέρει στη δημιουργία πιο επικίνδυνων βιολογικών παραγόντων. Μία από τις περιπτώσεις που προκάλεσαν ιδιαίτερη ανησυχία ήταν ένα αίτημα για την ενίσχυση συγκεκριμένων ιδιοτήτων του ιού chikungunya.
Απόπειρες κατάχρησης των μοντέλων Τεχνητής Νοημοσύνης
Η Anthropic, μέσω εκτενούς έκθεσης που δημοσίευσε για την κακόβουλη χρήση της Τεχνητής Νοημοσύνης, αποκάλυψε πως εντόπισε περιστατικά που εκτείνονταν από την παραγωγή επιβλαβούς κώδικα και τη διεξαγωγή κυβερνοεπιθέσεων, μέχρι και αιτήματα που σχετίζονταν με επικίνδυνη βιολογική έρευνα. Αυτές οι απόπειρες υπογραμμίζουν τις πιθανές απειλές που μπορεί να προκύψουν από την ανεξέλεγκτη ή κακόβουλη χρήση προηγμένων συστημάτων Τεχνητής Νοημοσύνης.
Οι ερευνητές της εταιρείας κατέγραψαν αυτές τις καταχρήσεις σε ένα χρονικό διάστημα που εκτείνεται από τον Δεκέμβριο του 2025 έως τον Αύγουστο του 2026. Η έκθεση της Anthropic περιγράφει επίσης περιπτώσεις όπου έγινε προσπάθεια χρήσης των μοντέλων της για τη δημιουργία κακόβουλου λογισμικού, καθώς και από φορείς που συνδέονταν με επιχειρήσεις προπαγάνδας ή εμπορικό κατασκοπευτικό λογισμικό.
Η περίπτωση του ιού chikungunya
Μία από τις πιο σοβαρές περιπτώσεις που ήρθαν στο φως αφορούσε ένα αίτημα προς το Claude. Ζητήθηκε η βοήθεια του μοντέλου για τη σύνταξη πρότασης επιστημονικής χρηματοδότησης. Ο στόχος αυτής της έρευνας θα ήταν η δημιουργία μιας «νέας ή ενισχυμένης βιολογικής ιδιότητας» του ιού chikungunya, ενός ιού που μεταδίδεται μέσω κουνουπιών και μπορεί να προκαλέσει υψηλό πυρετό και έντονους πόνους στις αρθρώσεις.
Σύμφωνα με την Anthropic, το συγκεκριμένο αίτημα αποσκοπούσε στην ενίσχυση μεταλλάξεων του ιού με τρόπο που θα μπορούσε να τον καταστήσει πιο επιβλαβή για τον άνθρωπο. Η εταιρεία εκτίμησε ότι μια τέτοια χρήση θα μπορούσε να συμβάλει άμεσα στη δημιουργία ενός πιο επικίνδυνου παθογόνου, γεγονός που οδήγησε σε άμεση παρέμβαση και ενίσχυση των μέτρων ασφαλείας.
Οι δράστες των κακόβουλων ενεργειών
Οι απόπειρες κατάχρησης των συστημάτων Τεχνητής Νοημοσύνης της Anthropic εντοπίστηκαν από διάφορες πηγές. Μεταξύ αυτών ήταν «πολιτικά υποκινούμενα άτομα», τα οποία επιχείρησαν να εκμεταλλευτούν τις δυνατότητες των μοντέλων. Επίσης, κρατικά υποστηριζόμενες ομάδες προσπάθησαν να χρησιμοποιήσουν την Τεχνητή Νοημοσύνη για τη διάδοση προπαγάνδας, ενώ εταιρείες κατασκοπευτικού λογισμικού επιχείρησαν να αξιοποιήσουν τα συστήματα για τους δικούς τους σκοπούς.
Η εταιρεία διευκρίνισε ότι οι περισσότερες από τις καταγεγραμμένες υποθέσεις κατάχρησης δεν αφορούσαν τα νεότερα και πιο προηγμένα μοντέλα της. Ωστόσο, υπήρξε μία μοναδική εξαίρεση, η οποία περιγράφεται στην έκθεση ως μια «βιομηχανικής κλίμακας, συγκαλυμμένη εκστρατεία». Αυτή η εκστρατεία είχε ως στόχο την εξαγωγή των δυνατοτήτων ενός μοντέλου και την αντιγραφή τους σε άλλο σύστημα, χωρίς την απαιτούμενη άδεια της Anthropic.
Ενίσχυση ασφαλείας και ανάγκη εποπτείας
Ως άμεση συνέπεια των εντοπισθέντων περιστατικών, και ειδικότερα του αιτήματος που αφορούσε τον ιό chikungunya, η Anthropic προχώρησε στην εφαρμογή ισχυρότερων δικλίδων ασφαλείας στα συστήματά της. Αυτή η κίνηση αποσκοπεί στην αποτροπή παρόμοιων μελλοντικών καταχρήσεων και στην προστασία από πιθανούς κινδύνους.
Παράλληλα, τα γεγονότα αυτά αναζωπύρωσαν τη συζήτηση σε ευρύτερο επίπεδο σχετικά με την ανάγκη για κρατική εποπτεία στην ανάπτυξη και χρήση της Τεχνητής Νοημοσύνης. Οι φόβοι για τη δημιουργία βιολογικών όπλων ή άλλων επικίνδυνων παραγόντων μέσω της Τεχνητής Νοημοσύνης καθιστούν επιτακτική την εξεύρεση μηχανισμών ελέγχου και ρύθμισης, ώστε να διασφαλιστεί η ασφαλής και ηθική χρήση αυτής της τεχνολογίας.
Με πληροφορίες από: Enikos
