Στο στόχαστρο το σύστημα «Gospel» του ισραηλινού στρατού, αρνείται το Τελ Αβίβ να δώσει πληροφορίες.
Το Ισραήλ αναπτύσσει νέες και εξελιγμένες τεχνολογίες τεχνητής νοημοσύνης (AI) σε μεγάλη κλίμακα στην επίθεσή του στη Γάζα. Την ώρα που ο αριθμός των νεκρών αμάχων αυξάνεται, ομάδες ανθρωπίνων δικαιωμάτων ρωτούν αν τα συστήματα στόχευσης τεχνητής νοημοσύνης του Ισραήλ έχουν αρκετά συστήματα προστασίας.
Πρόκειται για μια πίεση για λογοδοσία που θα μπορούσε να αναγκάσει την Ουάσινγκτον να αντιμετωπίσει κάποια άβολα ερωτήματα σχετικά με το βαθμό στον οποίο οι ΗΠΑ αφήνουν τον σύμμαχό τους να ξεφύγει από το μέτρο σχετικά με τη χρήση του πολέμου με τεχνητή νοημοσύνη.
Στα χτυπήματά του στη Γάζα, ο στρατός του Ισραήλ έχει βασιστεί σε ένα σύστημα με τεχνητή νοημοσύνη που ονομάζεται «Gospel» για να βοηθήσει στον προσδιορισμό των στόχων, οι οποίοι περιλαμβάνουν σχολεία, γραφεία οργανώσεων βοήθειας, χώρους λατρείας και ιατρικές εγκαταστάσεις.
Την ίδια ώρα, αξιωματούχοι της Χαμάς εκτιμούν ότι περισσότεροι από 30.000 είναι οι νεκροί Παλαιστίνιοι στη σύγκρουση, συμπεριλαμβανομένων πολλών γυναικών και παιδιών.
«Απαιτείται διαφάνεια»
Δεν είναι σαφές αν κάποια από τις απώλειες αμάχων στη Γάζα είναι άμεσο αποτέλεσμα της χρήσης της τεχνητής νοημοσύνης από το Ισραήλ. Πάντως, οι ακτιβιστές στην περιοχή απαιτούν περισσότερη διαφάνεια - επισημαίνοντας τα πιθανά λάθη που μπορεί να κάνουν τα συστήματα τεχνητής νοημοσύνης και υποστηρίζοντας ότι το σύστημα στόχευσης με γρήγορο ρυθμό τεχνητής νοημοσύνης είναι αυτό που επέτρεψε στο Ισραήλ να βομβαρδίζουν μεγάλα τμήματα της Γάζας.
Η παλαιστινιακή ομάδα ψηφιακών δικαιωμάτων 7amleh υποστήριξε σε πρόσφατο έγγραφο ότι η χρήση αυτοματοποιημένων όπλων στον πόλεμο «αποτελεί την πιο μοχθηρή απειλή για τους Παλαιστίνιους».
Την ίδια στιγμή, η παλαιότερη και μεγαλύτερη οργάνωση ανθρωπίνων δικαιωμάτων του Ισραήλ, η Ένωση για τα Πολιτικά Δικαιώματα στο Ισραήλ, υπέβαλε τον Δεκέμβριο αίτημα για την ελευθερία της πληροφόρησης στο νομικό τμήμα των Ισραηλινών Ενόπλων Δυνάμεων, απαιτώντας περισσότερη διαφάνεια σχετικά με την αυτοματοποιημένη στόχευση.
Το σύστημα Gospel, για το οποίο οι IDF έχουν δώσει ελάχιστες λεπτομέρειες, χρησιμοποιεί μηχανική μάθηση για να αναλύει γρήγορα τεράστιους όγκους δεδομένων ώστε να δημιουργήσει πιθανούς στόχους επίθεσης.
Οι Ισραηλινές Δυνάμεις Άμυνας αρνήθηκαν να σχολιάσουν τη χρήση βομβών κατευθυνόμενων με τεχνητή νοημοσύνη στη Γάζα ή οποιαδήποτε άλλη χρήση τεχνητής νοημοσύνης στη σύγκρουση. Εκπρόσωπος των IDF δήλωσε τον Φεβρουάριο ότι ενώ η τεχνητή νοημοσύνη χρησιμοποιείται για τον εντοπισμό πιθανών στόχων, η τελική απόφαση για το χτύπημα λαμβάνεται πάντα από άνθρωπο και εγκρίνεται από τουλάχιστον ένα άλλο άτομο στην αλυσίδα διοίκησης.
Οι IDF σημείωσαν τον Νοέμβριο ότι εκτός από την αύξηση της ακρίβειας, το σύστημα Gospel «επιτρέπει τη χρήση αυτόματων εργαλείων για την παραγωγή στόχων με γρήγορο ρυθμό» και παράλληλα τόνιζαν ότι το Ισραήλ είχε χτυπήσει περισσότερους από 12.000 στόχους τις πρώτες 27 ημέρες της μάχης.
Η πίεση για περισσότερες απαντήσεις σχετικά με τον πόλεμο τεχνητής νοημοσύνης του Ισραήλ έχει τη δυνατότητα να έχει αντίκτυπο στις ΗΠΑ, δημιουργώντας απαιτήσεις από τις ΗΠΑ να ελέγχουν την τεχνολογία των συμμάχων τους στο εξωτερικό και δημιουργώντας έναν δύσκολο τομέα πολιτικής για τους Αμερικανούς νομοθέτες που επιθυμούν να χρησιμοποιήσουν την τεχνητή νοημοσύνη σε μελλοντικά πεδία μάχης.
Ορισμένοι που παρακολουθούν την πολιτική για τον πόλεμο με τεχνητή νοημοσύνη στις ΗΠΑ υποστηρίζουν ότι το Ισραήλ διαστρεβλώνει τον σκοπό της τεχνολογίας - χρησιμοποιώντας την για να διευρύνει τους καταλόγους στόχων αντί να προστατεύει τους αμάχους. Και, λένε, οι ΗΠΑ θα πρέπει να καλέσουν τις IDF για αυτή την παραβίαση της δεοντολογίας.
«Είναι ξεκάθαρο πως το Ισραήλ χρησιμοποιεί την τεχνητή νοημοσύνη για να έχει αυτό που ονομάζουν «στόχους ισχύος», οπότε τη χρησιμοποιεί σκόπιμα - σε αντίθεση με αυτό που υποτίθεται ότι είναι, που βοηθάει με ακρίβεια - για να στοχεύει αμάχους», δήλωσε η Nancy Okail, πρόεδρος της προοδευτικής δεξαμενής σκέψης για την εξωτερική πολιτική Center for International Policy.
Παράλληλα, είπε ότι οι IDF φαίνεται να επιτρέπουν έναν ευρύ ορισμό αυτών των «στόχων ισχύος» - τους οποίους ο κλάδος πληροφοριών του στρατού ορίζει ως «στόχους με σημασία για την ασφάλεια ή την αντίληψη της Χαμάς ή της Παλαιστινιακής Ισλαμικής Τζιχάντ».
«Με πάνω από 30.000 απώλειες στη Γάζα, είναι δύσκολο να πούμε αν οι IDF χρησιμοποιούν υψηλής τεχνολογίας τεχνητή νοημοσύνη για να εντοπίσουν στόχους ή ρίχνουν βελάκια σε έναν χάρτη», δήλωσε ο Shaan Shaikh, αναπληρωτής διευθυντής και συνεργάτης του Missile Defense Project στο Κέντρο Στρατηγικών και Διεθνών Σπουδών.
«Οι ΗΠΑ θα πρέπει να χρησιμοποιήσουν την ανεκμετάλλευτη επιρροή τους για να διαμορφώσουν αυτές τις επιχειρήσεις, αλλά μέχρι στιγμής η κυβέρνηση Μπάιντεν δεν είναι πρόθυμη να το κάνει».
Χωρίς ιδιαίτερες αντιδράσεις στις ΗΠΑ
Μέχρι στιγμής, η χρήση της τεχνητής νοημοσύνης από το Ισραήλ στη στρατιωτική του επίθεση δεν έχει προκαλέσει κάποια ιδιαίτερη προσοχή στις συζητήσεις της Ουάσινγκτον για τη σύγκρουση Ισραήλ-Χαμάς.
Οι ομάδες ανθρωπίνων δικαιωμάτων στις ΗΠΑ λένε ότι επικεντρώνονται περισσότερο στην απόφαση του Ισραήλ να στοχεύσει πολιτικές υποδομές, παρά στην τεχνολογία που χρησιμοποιήθηκε για να το κάνει.
Όπως έχει αναφέρει το POLITICO, οργανώσεις αρωγής και ιατρικές εγκαταστάσεις έχουν πληγεί ακόμη και μετά την παροχή των συντεταγμένων GPS τους στις ισραηλινές αρχές. Και το Ισραήλ έχει δηλώσει ότι θεωρεί δίκαιους στόχους τις πολιτικές υποδομές, όπως τα νοσοκομεία και τα σχολεία, επειδή η Χαμάς έχει κρύψει μαχητές και όπλα σε αυτά τα κτίρια.
Οι Αμερικανοί αξιωματούχοι έχουν αποφύγει σε μεγάλο βαθμό να αναφερθούν στη χρήση της Τεχνητής Νοημοσύνης από το Ισραήλ.
«Έχω συμμετάσχει σε πολλές συναντήσεις με ανθρώπους που ενδιαφέρονται πολύ για τα ανθρώπινα δικαιώματα, σε συναντήσεις με τη διοίκηση, και δεν έχω ακούσει να γίνεται λόγος ειδικά για την ΑΙ», δήλωσε ο Khaled Elgindy, διευθυντής προγράμματος για την Παλαιστίνη και τις Παλαιστινιακές-Ισραηλινές Υποθέσεις στο Ινστιτούτο Μέσης Ανατολής.
Σε ερώτησηη σχετικά με την κλίμακα της χρήσης της τεχνητής νοημοσύνης από το Ισραήλ για τη στόχευση στον πόλεμο, η αναπληρώτρια σύμβουλος Εθνικής Ασφάλειας του Λευκού Οίκου για τον κυβερνοχώρο και τις αναδυόμενες τεχνολογίες Anne Neuberger έσπευσε να στραφεί στους κινδύνους της τεχνολογίας στον πόλεμο γενικότερα.
«Ανησυχούμε για τα συστήματα τεχνητής νοημοσύνης», δήλωσε η Neuberger σε συνέντευξή της. «Αυτός είναι ο λόγος για τον οποίο ο πρόεδρος εργάστηκε τόσο γρήγορα για να εκδώσει το εκτελεστικό διάταγμα για την τεχνητή νοημοσύνη και να προχωρήσει από εκεί και πέρα. Απολύτως».
Το εκτελεστικό διάταγμα στο οποίο αναφέρθηκε, παρέχει κατευθυντήριες γραμμές για τη χρήση της τεχνητής νοημοσύνης από τον αμερικανικό στρατό και τις υπηρεσίες πληροφοριών, ενώ πιέζει και για την αντιμετώπιση της οπλοποίησης της τεχνητής νοημοσύνης από ξένους αντιπάλους.
Ένας άλλος λόγος για τον οποίο η τεχνολογία μπορεί να μην λαμβάνει τόση προσοχή στην Ουάσινγκτον είναι η αδιαφανής φύση των στρατιωτικών επιχειρήσεων του Ισραήλ.
«Κανείς δεν έχει καμία εικόνα, συμπεριλαμβανομένων, θα έλεγα, των αμερικανών πολιτικών για το πώς το Ισραήλ διεξάγει αυτόν τον πόλεμο», δήλωσε η Sarah Yager, διευθύντρια της Ουάσιγκτον στο Παρατηρητήριο Ανθρωπίνων Δικαιωμάτων.
«Βλέπουμε το αποτέλεσμα στις απώλειες αμάχων και στα κατεστραμμένα κτίρια, αλλά όσον αφορά την τεχνολογία και τον υπολογισμό της αναλογικότητας, απλά δεν έχουμε ιδέα. Είναι σαν ένα μαύρο κουτί».
Πάντως, υπάρχουν ενδείξεις ότι το Ισραήλ μπορεί να μην εφαρμόζει την εποπτεία στο επίπεδο που θα ήθελαν οι ΗΠΑ. Το Ισραήλ δεν έχει υπογράψει κάποια συνθήκη που υποστηρίζεται από τις ΗΠΑ και πιέζει για την υπεύθυνη χρήση της τεχνητής νοημοσύνης στον πόλεμο. Μεταξύ των περισσότερων από 50 υπογραφόντων είναι το Ηνωμένο Βασίλειο, η Γερμανία και η Ουκρανία - ο άλλος σύμμαχος των ΗΠΑ σε ενεργό πόλεμο.
«Η ανησυχία μου είναι ότι η τεχνολογία AI έχει ανοίξει το κουτί της Πανδώρας», δήλωσε σε συνέντευξή του ο Ron Reiter, συνιδρυτής και επικεφαλής τεχνολογίας της ισραηλινής εταιρείας κυβερνοχώρου Sentra και πρώην αξιωματικός των ισραηλινών μυστικών υπηρεσιών.
Το σύστημα τεχνητής νοημοσύνης του Ισραήλ, το Gospel, χρησιμοποιείται από την επίλεκτη υπηρεσία πληροφοριών στον κυβερνοχώρο και σήματος Unit 8200 του Ισραήλ για να αναλύει «επικοινωνίες, εικόνες και πληροφορίες από το διαδίκτυο από δίκτυα κινητής τηλεφωνίας για να καταλάβει πού βρίσκονται οι άνθρωποι», δήλωσε ο Reiter, πρώην αξιωματικός της Unit 8200.
«Η 8200 παρέχει το σήμα για το τι σκέφτονται όσον αφορά το επίπεδο εμπιστοσύνης - πόσο σίγουροι είναι ότι ο στόχος δεν περιέχει πολίτες», είπε. Ενώ ο Ράιτερ δήλωσε ότι δεν μπορεί να μιλήσει για πιθανά λάθη από το Gospel, είπε ότι σε γενικές γραμμές τα ισραηλινά συστήματα στόχευσης είναι «πολύ, πολύ ακριβή και αυτό γίνεται με μοναδικό σκοπό την ελαχιστοποίηση των απωλειών μεταξύ των αμάχων».
Όμως οι ειδικοί υποστηρίζουν ότι οποιαδήποτε συστήματα στόχευσης τεχνητής νοημοσύνης ενέχουν υψηλούς κινδύνους.
«Δεδομένου του ιστορικού των υψηλών ποσοστών σφάλματος των συστημάτων τεχνητής νοημοσύνης, η ανακριβής και μεροληπτική αυτοματοποίηση στόχων δεν απέχει πολύ από την αδιάκριτη στόχευση», δήλωσε ο Heidy Khlaaf, διευθυντής μηχανικής μάθησης στην εταιρεία κυβερνοασφάλειας Trail of Bits με έδρα το Ηνωμένο Βασίλειο, "".
Οι ΗΠΑ χρησιμοποιούν τεχνητή νοημοσύνη για να βοηθήσουν στην πλοήγηση και την επιτήρηση των drones σε ζώνες συγκρούσεων και αναπτύσσουν συστήματα που θα χρησιμοποιούν στόχευση με τεχνητή νοημοσύνη για επιθετικά πλήγματα.
Το Πεντάγωνο δημοσίευσε στα τέλη του 2023 μια στρατηγική για την τεχνητή νοημοσύνη που περιγράφει τον τρόπο με τον οποίο σχεδιάζει να ενσωματώσει με ασφάλεια τις τεχνολογίες τεχνητής νοημοσύνης στις επιχειρήσεις του.
Οι ΗΠΑ δοκιμάζουν και μια ποικιλία τεχνολογιών ΤΝ που έχουν αναπτυχθεί στο Ισραήλ για χρήση από τις αμερικανικές δυνάμεις - ορισμένες από αυτές με αμερικανική χρηματοδότηση.
Παράλληλα, παρέχουν στο Ισραήλ 3,3 δισεκατομμύρια δολάρια ετησίως σε επιχορηγήσεις για την εξωτερική στρατιωτική χρηματοδότηση, και 500 εκατομμύρια δολάρια ετησίως για προγράμματα αντιπυραυλικής άμυνας στο πλαίσιο μιας δεκαετούς συμφωνίας για τη στρατιωτική βοήθεια.
Το Ισραήλ έχει χρησιμοποιήσει τη χρηματοδότηση (και) για να ενισχύσει τις ικανότητές του στην καταπολέμηση πολέμου, την αντιπυραυλική προστασία και την επιτήρηση υψηλής τεχνολογίας - αν και δεν υπάρχουν ενδείξεις ότι τα χρήματα πηγαίνουν στο Gospel.
Εκτός από τα συστήματα κρούσης, περιλαμβάνει σκοπευτικά τουφεκιών εφόδου τεχνητής νοημοσύνης ακριβείας, όπως το SMASH από την Smart Shooter - το οποίο χρησιμοποιεί προηγμένους αλγόριθμους επεξεργασίας εικόνας για να εστιάσει σε έναν στόχο. Η χρήση του έχει καταγραφεί στη Γάζα αλλά και στην κατεχόμενη Δυτική Όχθη.
Τον Οκτώβριο, το Πεντάγωνο άνοιξε τη δική του σχολή για τη μάχη με drones στο Fort Sill στην Οκλαχόμα, όπου οι μαθητές του εκπαιδεύονται με το πρόσθετο SMASH.
Ορισμένοι στο Κογκρέσο έχουν προχωρήσει στην επιβολή περισσότερων κανόνων γύρω από τον τρόπο με τον οποίο οι ΗΠΑ χρησιμοποιούν την τεχνολογία τεχνητής νοημοσύνης.
Όμως, λίγοι υποστηρίζουν την εγκατάλειψη των όπλων τεχνητής νοημοσύνης είτε στις ΗΠΑ είτε από τους Αμερικανούς συμμάχους στο εξωτερικό.
Πηγή: iEidiseis.gr
