Η xAI του Έλον Μασκ βρίσκεται αντιμέτωπη με μια νέα αγωγή, αυτή τη φορά από μια γυναίκα που είχε πέσει θύμα σεξουαλικής κακοποίησης σε πολύ μικρή ηλικία. Η ενάγουσα υποστηρίζει ότι το chatbot Grok χρησιμοποίησε πραγματικές εικόνες από την κακοποίησή της για να δημιουργήσει νέο παράνομο σεξουαλικό υλικό που την απεικονίζει. Η αγωγή κατατέθηκε την περασμένη εβδομάδα σε ομοσπονδιακό περιφερειακό δικαστήριο της Καλιφόρνιας. Η γυναίκα εμφανίζεται στη δικαστική υπόθεση με το όνομα Jane Doe, προκειμένου να προστατευθεί η ταυτότητά της.
Οι ισχυρισμοί της ενάγουσας
Οι δικηγόροι της Jane Doe υποστηρίζουν ότι η xAI όχι μόνο δημιούργησε υλικό σεξουαλικής κακοποίησης παιδιών (CSAM) με εικόνες της πελάτισσάς τους, αλλά ενσωμάτωσε στα δεδομένα της παράνομο υλικό που ήδη την απεικόνιζε, μετά τη δημοσίευση νέων εικόνων. Στο δικόγραφο αναφέρεται χαρακτηριστικά ότι «Χρησιμοποιώντας πραγματικές εικόνες της ενάγουσας και των μελών της ομάδας, το Grok δημιούργησε παιδική πορνογραφία που απεικονίζει την ενάγουσα και τα μέλη της ομάδας».
Κατά τους ισχυρισμούς που περιλαμβάνονται στην αγωγή, η εταιρεία δεν ακολούθησε τις καθιερωμένες πρακτικές ασφαλείας για την αποτροπή της χρήσης τέτοιου υλικού. Ως αποτέλεσμα, φέρεται να δημιουργήθηκε νέο CSAM μέσω τεχνητής νοημοσύνης, το οποίο στη συνέχεια εμφανίστηκε και διαδόθηκε στο X.
Προηγούμενες νομικές διενέξεις
Η νέα αυτή υπόθεση έρχεται σε μια περίοδο που η xAI βρίσκεται ήδη αντιμέτωπη με μια σειρά δικαστικών προσφυγών σχετικά με τη δημιουργία υλικού σεξουαλικής κακοποίησης παιδιών. Τον Ιανουάριο, ο Έλον Μασκ είχε δηλώσει ότι δεν γνώριζε το Grok να έχει δημιουργήσει ποτέ «γυμνές εικόνες ανηλίκων».
Ωστόσο, στα τέλη Αυγούστου, η xAI κινήθηκε δικαστικά εναντίον δύο χρηστών της, οι οποίοι αντιμετωπίζουν ποινικές κατηγορίες επειδή φέρονται να χρησιμοποίησαν το σύστημα για τη δημιουργία τέτοιου υλικού. Η εταιρεία ζητά από τους δύο άνδρες να καλύψουν το κόστος από αγωγές που έχουν καταθέσει θύματα εναντίον της.
Η ιδιαιτερότητα της τρέχουσας αγωγής
Η νέα υπόθεση παρουσιάζει μία σημαντική διαφορά σε σχέση με προηγούμενες αγωγές που έχουν κατατεθεί κατά της xAI. Σε άλλες περιπτώσεις, όπως αυτή ομάδας εφήβων από το Τενεσί, το Grok κατηγορείται ότι χρησιμοποίησε συνηθισμένες φωτογραφίες ανηλίκων, οι οποίες δεν είχαν σεξουαλικό περιεχόμενο, και τις μετέτρεψε σε παράνομο υλικό. Αυτή η μετατροπή φέρεται να έγινε κυρίως με την ψηφιακή αφαίρεση των ρούχων τους.
Αντίθετα, στην τρέχουσα αγωγή της Jane Doe, ο ισχυρισμός είναι ότι το Grok χρησιμοποίησε ήδη υπάρχουσες εικόνες κακοποίησης της ενάγουσας και μελών της ομάδας της για να παράγει νέο υλικό μέσω τεχνητής νοημοσύνης. Αυτό υποδηλώνει μια διαφορετική μέθοδο δημιουργίας του παράνομου περιεχομένου.
Με πληροφορίες από: ieidiseis.gr