Σε μια πρόσφατη διάλεξη στο Μέγαρο Μουσικής Αθηνών, ο καταξιωμένος καθηγητής Θεόδωρος Χριστάκης ανέλυσε τους κινδύνους που ελλοχεύουν από τη χρήση των chatbots, όπως το ChatGPT. Επικεντρώθηκε στις επιπτώσεις που μπορεί να έχει η αλόγιστη χρήση τεχνητής νοημοσύνης, ειδικά σε ευαίσθητους τομείς όπως η υγεία και οι προσωπικές σχέσεις.
Κατά τη διάρκεια του συνεδρίου «Legal Horizons in the age of AI: Risk, Responsibility and Regulation», ο κ. Χριστάκης παρουσίασε για πρώτη φορά δύο σημαντικές μελέτες σχετικά με την επίδραση αυτών των εργαλείων στην καθημερινότητα των χρηστών. Η ομιλία του προκάλεσε έντονο προβληματισμό για το κατά πόσο οι χρήστες θα πρέπει να είναι προσεκτικοί με τις πληροφορίες που μοιράζονται.
Η ψευδαίσθηση της ιδιωτικότητας
Ο καθηγητής τόνισε ότι πολλοί χρήστες αισθάνονται ελεύθεροι να μοιραστούν προσωπικά ζητήματα με τα chatbots, πιστεύοντας ότι οι συνομιλίες τους είναι ιδιωτικές. Ωστόσο, αυτή η αίσθηση ασφάλειας μπορεί να είναι παραπλανητική. Ο Χριστάκης επισήμανε ότι οι συνομιλίες αυτές μπορεί να χρησιμοποιούνται για την εκπαίδευση των μοντέλων τεχνητής νοημοσύνης ή για λόγους ασφαλείας, ενώ άλλοι μπορεί να έχουν πρόσβαση σε αυτές τις πληροφορίες.
Αξιοσημείωτο είναι ότι από τις πέντε κορυφαίες πλατφόρμες τεχνητής νοημοσύνης, μόνο το Gemini (Google) δηλώνει ότι μπορεί να αναθεωρεί τις συνομιλίες υπό ορισμένες προϋποθέσεις. Ο καθηγητής προειδοποίησε: «Μην κοινοποιείτε τίποτα που δεν θα αισθανόσασταν άνετα να δείτε δημόσια».
Οι κίνδυνοι διαρροής ιδεών
Στην ομιλία του, ο Χριστάκης έθεσε το ερώτημα σχετικά με την ασφάλεια της κοινοποίησης ακαδημαϊκών ή εμπορικών ιδεών σε αυτές τις πλατφόρμες. Όλες οι γνωστές υπηρεσίες διαβεβαίωσαν ότι ο κίνδυνος διαρροής είναι χαμηλός, αλλά οι ίδιοι οι εκπρόσωποί τους συνέστησαν να κρατούν οι χρήστες τις καλύτερες ιδέες για τον εαυτό τους. Μια από τις απαντήσεις που δόθηκαν ήταν ότι «δεν θα πρέπει να κοινοποιείται τίποτα που δεν θα σας ήταν άνετο να το δείτε σε ένα δημόσιο ιστολόγιο ή σε μια πρόταση ανταγωνιστή σας».
Ο κίνδυνος του να εμπιστευτείς όλο τον ιατρικό σου φάκελο στο AI
Θα πρέπει κάποιος να παρέχει σε ένα chatbot ολόκληρο τον ιατρικό του φάκελο; Τα οφέλη μπορεί να είναι σημαντικά, καθώς ένα AI που γνωρίζει το ιστορικό, τις εξετάσεις και τα δεδομένα από wearables μπορεί να προσφέρει εξατομικευμένες, ασφαλείς συμβουλές. Η απουσία τέτοιων πληροφοριών μπορεί να καταστήσει τις γενικές συστάσεις όχι μόνο ανακριβείς αλλά και επικίνδυνες.
Η μελέτη του Χριστάκη εγείρει ωστόσο πέντε κρίσιμα ζητήματα:
Το πρώτο αφορά τον τρόπο αξιοποίησης των δεδομένων. Οι εταιρείες διαβεβαιώνουν ότι τα στοιχεία υγείας δεν χρησιμοποιούνται για την εκπαίδευση των βασικών μοντέλων τεχνητής νοημοσύνης, ωστόσο αυτή η δέσμευση δεν σημαίνει ότι τα δεδομένα μένουν ανενεργά. Μπορούν να αξιοποιηθούν για εσωτερικές αναλύσεις, βελτίωση υπηρεσιών ή εντοπισμό προτύπων συμπεριφοράς.
Το δεύτερο ζήτημα σχετίζεται με τη συγκέντρωση δεδομένων σε λίγες πλατφόρμες. Αν μεγάλος αριθμός πολιτών αρχίσει να ενσωματώνει σε αυτές τα ιατρικά του αρχεία, τις φαρμακευτικές αγωγές, τα δεδομένα από wearables και τις συνομιλίες του, θα δημιουργηθούν τεράστια ιδιωτικά αποθετήρια πληροφοριών υγείας. Η αξία αυτών των δεδομένων είναι πολυδιάστατη, καθώς μπορεί να αξιοποιηθεί τόσο για εμπορικές υπηρεσίες όσο και για επιστημονική έρευνα ή πρόβλεψη υγειονομικών τάσεων. Το κρίσιμο ερώτημα που ανακύπτει είναι ποιος θα έχει τον έλεγχο αυτής της γνώσης και ποιος θα καθορίζει τους όρους πρόσβασης σε αυτήν.
Το τρίτο σημείο αφορά τη θέση της Ευρώπης. Ενώ η Ευρωπαϊκή Ένωση προχωρά με αυστηρούς κανόνες στη δημιουργία του Ευρωπαϊκού Χώρου Δεδομένων Υγείας, οι ιδιωτικές πλατφόρμες μπορούν να κινηθούν ταχύτερα, συγκεντρώνοντας δεδομένα απευθείας από τους χρήστες. Δημιουργείται έτσι μια εμφανής ανισορροπία: από τη μία πλευρά ένα θεσμικά ελεγχόμενο αλλά πιο αργό σύστημα και από την άλλη ιδιωτικοί φορείς που μπορούν να εξελιχθούν πολύ πιο γρήγορα, χωρίς τα ίδια επίπεδα εποπτείας.
Το τέταρτο ζήτημα αφορά τον κίνδυνο παραβιάσεων ασφαλείας. Σε περίπτωση κυβερνοεπίθεσης, οι συνέπειες δεν θα περιορίζονταν σε μια απλή διαρροή δεδομένων. Θα μπορούσαν να αποκαλυφθούν ταυτόχρονα ευαίσθητες ιατρικές πληροφορίες, προσωπικές συνήθειες και ιστορικά συνομιλιών εκατομμυρίων χρηστών, δημιουργώντας ένα πρωτοφανές περιστατικό σε παγκόσμια κλίμακα.
Το πέμπτο και τελευταίο ζήτημα σχετίζεται με το επιχειρηματικό μοντέλο αυτών των υπηρεσιών. Παρότι συχνά εμφανίζονται ως δωρεάν ή χαμηλού κόστους, ενσωματώνονται σε ευρύτερα οικοσυστήματα υπηρεσιών. Όσο περισσότερα δεδομένα συγκεντρώνει ένας χρήστης σε μία πλατφόρμα, τόσο δυσκολότερη γίνεται η αποχώρησή του από αυτήν. Αυτό σημαίνει ότι η πραγματική δοκιμασία δεν είναι οι σημερινές υποσχέσεις προστασίας, αλλά το αν αυτές θα διατηρηθούν όταν οι υπηρεσίες περάσουν σε φάση πλήρους εμπορικής αξιοποίησης.
Μέσα σε αυτό το πλαίσιο, προτείνεται η ανάγκη για τη δημιουργία «ασφαλών ζωνών» χρήσης της τεχνητής νοημοσύνης, ειδικά για ευαίσθητα θέματα όπως η υγεία ή τα νομικά ζητήματα. Σε αυτές τις ζώνες, θα πρέπει να ισχύουν αυστηροί κανόνες: να μην χρησιμοποιούνται τα δεδομένα για εκπαίδευση ή διαφήμιση, να μην διατηρείται μνήμη, να υπάρχει ισχυρή κρυπτογράφηση και αυστηρός έλεγχος πρόσβασης. Η λογική είναι ότι ο χρήστης πρέπει να μπορεί να μιλήσει με την ίδια ασφάλεια που θα είχε σε ένα προστατευμένο ανθρώπινο περιβάλλον.
Οικονομικό υπόβαθρο και διαφημίσεις
Ο καθηγητής Χριστάκης ανέφερε επίσης ότι η χρήση αυτών των εργαλείων δεν είναι δωρεάν. Οι περισσότερες πλατφόρμες προσφέρουν υπηρεσίες χωρίς κόστος, γεγονός που οδηγεί τις εταιρείες να αναζητούν άλλες πηγές χρηματοδότησης. Η ανάπτυξη και η λειτουργία των AI συστημάτων είναι κοστοβόρα, και οι συνδρομές δεν επαρκούν. Ως αποτέλεσμα, πολλές εταιρείες υιοθετούν μοντέλα που βασίζονται στην αξιοποίηση των δεδομένων και στην εμφάνιση διαφημίσεων κατά τη διάρκεια των συνομιλιών.
Ο Χριστάκης περιέγραψε σενάρια όπου μια φαινομενικά ουδέτερη συνομιλία μπορεί να μετατραπεί σε εμπορική προώθηση, με προτάσεις προϊόντων ή υπηρεσιών να διαπλέκονται με την παροχή βοήθειας. Αυτό εγείρει σοβαρά ζητήματα σχετικά με την εμπιστευτικότητα και την καλή πίστη των αλληλεπιδράσεων.
Η ομιλία του καθηγητή Χριστάκη αναδεικνύει την ανάγκη για περισσότερη ενημέρωση και προσοχή σχετικά με τις αλληλεπιδράσεις μας με την τεχνητή νοημοσύνη. Οι χρήστες θα πρέπει να είναι ενήμεροι για τους κινδύνους που προκύπτουν από τη μη προστασία προσωπικών πληροφοριών και να επανεξετάσουν την προσέγγισή τους στη χρήση αυτών των εργαλείων. Η συνειδητοποίηση της πραγματικότητας πίσω από την "ιδιωτικότητα" των συνομιλιών είναι κρίσιμη για την προστασία των προσωπικών δεδομένων.