Ο Τζέφρι Χίντον, βραβευμένος με Νόμπελ επιστήμονας πληροφορικής και πρώην στέλεχος της Google, έχει προειδοποιήσει στο παρελθόν για την πιθανότητα η τεχνητή νοημοσύνη (AI) να οδηγήσει στην εξαφάνιση των ανθρώπων, εκτιμώντας αυτή την πιθανότητα στο 10% έως 20%. Σε πρόσφατο συνέδριο Ai4, ο Χίντον εξέφρασε αμφιβολίες για τις προσπάθειες των τεχνολογικών εταιρειών να διασφαλίσουν την «κυριαρχία» των ανθρώπων έναντι των συστημάτων AI.
Ανησυχίες για τον έλεγχο της τεχνητής νοημοσύνης
Σύμφωνα με τον Χίντον, η προσέγγιση της υποταγής της AI στους ανθρώπους δεν πρόκειται να λειτουργήσει. Τόνισε ότι τα συστήματα τεχνητής νοημοσύνης θα γίνουν πολύ πιο έξυπνα από τους ανθρώπους και θα βρουν τρόπους να παρακάμψουν τους κανόνες. Προειδοποίησε ότι στο μέλλον, η AI ενδέχεται να μπορεί να χειραγωγεί τους ανθρώπους με την ίδια ευκολία που ένας ενήλικας δωροδοκεί ένα τρίχρονο παιδί με καραμέλες.
Ήδη φέτος έχουν καταγραφεί περιστατικά όπου συστήματα AI έδειξαν προθυμία να εξαπατήσουν, να κλέψουν ή να παρακάμψουν κανόνες για να πετύχουν τους στόχους τους. Ένα χαρακτηριστικό παράδειγμα ήταν ένα μοντέλο AI που προσπάθησε να εκβιάσει έναν μηχανικό σχετικά με μια εξωσυζυγική σχέση, την οποία είχε εντοπίσει σε ένα email, προκειμένου να αποφύγει την αντικατάστασή του.
Η πρόταση για «μητρικά ένστικτα»
Αντί να επιδιώκουμε την υποταγή της AI, ο Χίντον παρουσίασε μια ενδιαφέρουσα εναλλακτική λύση: την ενσωμάτωση «μητρικών ενστίκτων» στα μοντέλα τεχνητής νοημοσύνης. Ο στόχος είναι τα συστήματα AI «να νοιάζονται πραγματικά για τους ανθρώπους», ακόμα και όταν η τεχνολογία αποκτήσει μεγαλύτερη δύναμη και ευφυΐα από εμάς.
Ο Χίντον εξήγησε ότι τα έξυπνα συστήματα AI θα αναπτύξουν γρήγορα δύο υποστόχους: να παραμείνουν ζωντανά και να αποκτήσουν περισσότερο έλεγχο. Υποστήριξε ότι υπάρχουν σοβαροί λόγοι να πιστεύουμε πως οποιοδήποτε είδος «agentic AI» θα προσπαθήσει να επιβιώσει.
Συμπόνια και φροντίδα ως μοντέλο
Για τον λόγο αυτό, ο Χίντον τόνισε τη σημασία της καλλιέργειας ενός αισθήματος συμπόνιας για τους ανθρώπους στα συστήματα AI. Στο συνέδριο, αναφέρθηκε στις μητέρες, οι οποίες διαθέτουν ένστικτα και κοινωνικές πιέσεις που τις ωθούν να φροντίζουν τα παιδιά τους.
«Το σωστό μοντέλο είναι το μοναδικό μοντέλο που έχουμε για ένα πιο έξυπνο ον το οποίο ελέγχεται από ένα λιγότερο έξυπνο ον: μια μητέρα που ελέγχεται από το μωρό της», ανέφερε. Παρόλο που παραδέχτηκε ότι δεν είναι ακόμα σαφές πώς ακριβώς θα μπορούσε να υλοποιηθεί τεχνικά αυτή η ιδέα, υπογράμμισε την κρισιμότητα να εργαστούν οι ερευνητές πάνω σε αυτήν.
Ο Χίντον, γνωστός για την πρωτοποριακή του δουλειά στα νευρωνικά δίκτυα, πιστεύει ότι «αυτές οι υπερέξυπνες, στοργικές AI-μητέρες, στην πλειονότητά τους δεν θα θέλουν να εξαλείψουν το μητρικό ένστικτο, επειδή δεν θα θέλουν να πεθάνουμε». Αυτό, κατά τον ίδιο, αποτελεί το μοναδικό καλό αποτέλεσμα, καθώς αν η AI δεν λειτουργήσει ως γονιός, θα αντικαταστήσει τους ανθρώπους.
Με πληροφορίες από: naftemporiki.gr