Ο ιδρυτής της OpenAI, Σαμ Άλτμαν, προχώρησε σε παρεμβάσεις μέσω δύο αναρτήσεών του στην πλατφόρμα Χ, με στόχο να περιγράψει τους πιθανούς κινδύνους που ελλοχεύουν από την ραγδαία εξέλιξη της τεχνητής νοημοσύνης. Οι παρεμβάσεις του έρχονται σε μια περίοδο που ειδικοί στον τομέα εκφράζουν ανησυχίες, προειδοποιώντας ότι η τεχνητή νοημοσύνη θα μπορούσε σύντομα να οδηγήσει ακόμη και στην εξόντωση ολόκληρης της ανθρωπότητας. Ο Άλτμαν ανέλυσε τους δύο βασικούς τρόπους με τους οποίους η πορεία της τεχνητής νοημοσύνης θα μπορούσε να πάρει πολύ αρνητική τροπή, υπογραμμίζοντας την επιτακτική ανάγκη να αποφευχθούν αυτά τα σενάρια.
Οι δύο κρίσιμοι κίνδυνοι της τεχνητής νοημοσύνης
Στην ανάρτησή του, ο Σαμ Άλτμαν αναφέρει ρητά ότι «υπάρχουν δύο τρόποι με τους οποίους η εξέλιξη της τεχνητής νοημοσύνης θα μπορούσε να πάρει πολύ κακή τροπή και τους οποίους πρέπει να αποφύγουμε». Ο πρώτος από αυτούς τους κινδύνους, όπως τονίζει, είναι η πιθανότητα να χάσουμε τον έλεγμο του μέλλοντος από την τεχνητή νοημοσύνη. Αυτό το σενάριο χαρακτηρίζεται ως απαράδεκτο από τον ίδιο, ο οποίος δηλώνει απερίφραστα ότι η ομάδα του ανήκει στην «Ομάδα Ανθρωπότητα» και πως η τεχνητή νοημοσύνη πρέπει πάντα να υπηρετεί τους ανθρώπους. Για να διασφαλιστεί αυτό, απαιτούνται τρόποι για την εξασφάλιση της ευθυγράμμισης των στόχων της τεχνητής νοημοσύνης με τα ανθρώπινα συμφέροντα.
Στο πλαίσιο της αποφυγής αυτών των δύο απειλών, ο Άλτμαν υπογραμμίζει την ανάγκη να ακολουθηθεί μια «στενή μέση οδός». Παρέχει συγκεκριμένα παραδείγματα για το πώς η κατάσταση θα μπορούσε να εκτραπεί, αναφέροντας την περίπτωση όπου μια χώρα θα μπορούσε να αποκτήσει υπερβολική εξουσία μέσω της τεχνητής νοημοσύνης. Ένα άλλο παράδειγμα που αναφέρει είναι η συγκέντρωση υπερβολικής εξουσίας σε ένα μόνο εργαστήριο ανάπτυξης τεχνητής νοημοσύνης, γεγονός που θα μπορούσε να οδηγήσει σε ανεπιθύμητες συνέπειες για την παγκόσμια ισορροπία και ασφάλεια.
Η ανάγκη για υπεύθυνη ανάπτυξη και εμπιστοσύνη
Λίγο νωρίτερα, σε μια άλλη ανάρτησή του, ο επιχειρηματίας είχε τονίσει ότι ο κόσμος δικαιούται να έχει την εμπιστοσύνη ότι οι αμερικανικές εταιρείες που αναπτύσσουν όλο και πιο ικανή τεχνητή νοημοσύνη θα ενεργούν με υπεύθυνο τρόπο. Αυτή η απαίτηση για υπευθυνότητα καθίσταται ιδιαίτερα κρίσιμη τώρα που η πορεία της προόδου στον τομέα της τεχνητής νοημοσύνης έχει επιταχυνθεί σημαντικά, δημιουργώντας νέες προκλήσεις και ευθύνες.
Ο Άλτμαν ξεκαθαρίζει ότι κάθε πρωτοποριακό εργαστήριο που ασχολείται με την ανάπτυξη τεχνητής νοημοσύνης οφείλει να ανταποκριθεί σε αυτή την προσδοκία. Δήλωσε χαρακτηριστικά ότι δεν υπάρχει κανένας λόγος για κανέναν από αυτούς να συνεχίζει το έργο του αν δεν είναι σε θέση να διασφαλίσει αυτή την υπεύθυνη στάση. Η δήλωση αυτή υπογραμμίζει τη σοβαρότητα με την οποία αντιμετωπίζει ο ιδρυτής της OpenAI την ηθική διάσταση και τις ευθύνες που συνοδεύουν την ανάπτυξη τόσο ισχυρών τεχνολογιών.
Πλαίσιο κανόνων και ανεξάρτητοι ελεγκτές
Στην ίδια ανάρτηση, ο Σαμ Άλτμαν χαιρέτισε την ιδέα ενός ομοσπονδιακού πλαισίου που θα καθορίζει συνεπείς απαιτήσεις ασφάλειας για την πρωτοποριακή τεχνητή νοημοσύνη. Θεωρεί ότι οι συνεπείς κανόνες για τη διαχείριση των κινδύνων που ενέχει η πρωτοποριακή τεχνητή νοημοσύνη είναι μια καλή ιδέα, καθώς μπορούν να μεγιστοποιήσουν τα οφέλη της τεχνολογίας, ενώ παράλληλα διασφαλίζουν την ασφάλεια.
Παράλληλα, ο Άλτμαν εξέφρασε τον ενθουσιασμό του για ιδέες όπως οι ανεξάρτητοι ελεγκτές, οι οποίοι θα μπορούσαν να συμβάλουν στην εποπτεία και την αξιολόγηση των συστημάτων τεχνητής νοημοσύνης. Ωστόσο, τόνισε ότι δεν πιστεύει πως πρέπει να περιμένουν μια εξαίρεση από τους αντιμονοπωλιακούς νόμους ή τη θέσπιση νομοθεσίας για να αρχίσουν το έργο της δημιουργίας αυτής της εμπιστοσύνης. Η άμεση δράση και η πρωτοβουλία από τις ίδιες τις εταιρείες θεωρούνται απαραίτητες για την οικοδόμηση ενός ασφαλούς και αξιόπιστου μέλλοντος για την τεχνητή νοημοσύνη.
Οι ενέργειες της OpenAI για την ασφάλεια
Ο ιδρυτής της OpenAI αναφέρθηκε επίσης στις εσωτερικές πρακτικές της εταιρείας του, επισημαίνοντας τη σημερινή στροφή προς την έμφαση στην ασφαλή ανάπτυξη και αξιολόγηση της τεχνητής νοημοσύνης. Αυτή η νέα προσέγγιση, όπως εξήγησε, θα απαιτήσει την ανάπτυξη και χρήση νέων εργαλείων και μεθόδων για την αντιμετώπιση των αναδυόμενων προκλήσεων.
Ως συγκεκριμένο παράδειγμα, ο Άλτμαν ανέφερε ότι στην OpenAI διαμορφώνουν πλέον ρητές μελέτες ασφάλειας πριν από τις πρωτοποριακές εκτελέσεις ενισχυτικής μάθησης. Αυτές οι εκτελέσεις αναμένεται να αυξήσουν σημαντικά τις δυνατότητες των συστημάτων τεχνητής νοημοσύνης, και οι μελέτες ασφάλειας αποτελούν ένα επιπλέον επίπεδο προστασίας, συμπληρώνοντας το ήδη υπάρχον έργο ασφάλειας που πραγματοποιείται στην εταιρεία.
Με πληροφορίες από: Topontiki
