Ο Σαμ Άλτμαν, επικεφαλής της OpenAI, προειδοποιεί ότι η επόμενη γενιά μοντέλων τεχνητής νοημοσύνης θα είναι πολύ ισχυρότερη από τη σημερινή, με δυνατότητες που σε αρκετούς τομείς γίνονται ήδη «υπεράνθρωπες». Ο διευθύνων σύμβουλος της OpenAI παραδέχεται ότι ο κλάδος εισέρχεται σε «αχαρτογράφητα νερά» και ότι η πρόοδος στην ασφάλεια και την ευθυγράμμιση των συστημάτων μπορεί πλέον να καθορίζει το πόσο γρήγορα θα κυκλοφορούν νέα μοντέλα.
Η προειδοποίηση του επικεφαλής της OpenAI
Ο Σαμ Άλτμαν, ως διευθύνων σύμβουλος της OpenAI, εξέφρασε την ανησυχία του για την ταχύτητα και την ισχύ των επερχόμενων μοντέλων τεχνητής νοημοσύνης. Σύμφωνα με τον ίδιο, αυτά τα νέα συστήματα θα είναι σημαντικά πιο ικανά από τα τρέχοντα, αναπτύσσοντας «υπεράνθρωπες» δυνατότητες σε πολλούς τομείς.
Ο κ. Άλτμαν υπογράμμισε ότι ο τομέας της τεχνητής νοημοσύνης βρίσκεται σε «αχαρτογράφητα νερά». Τόνισε επίσης ότι η ασφάλεια και η ευθυγράμμιση των συστημάτων με τους ανθρώπινους στόχους θα αποτελέσουν τους καθοριστικούς παράγοντες για τον ρυθμό με τον οποίο θα κυκλοφορούν τα νέα μοντέλα στην αγορά.
Οι προσδοκίες για τα μελλοντικά συστήματα
Σε συνέντευξή του στο Axios, η οποία δόθηκε στο περιθώριο της συνόδου καινοτομίας της G20, ο Σαμ Άλτμαν προσέφερε μια πρόγευση για το τι αναμένεται από τα επόμενα συστήματα που αναπτύσσει η OpenAI. Μεταξύ αυτών των συστημάτων συγκαταλέγεται και το μοντέλο Astra.
Ο κ. Άλτμαν δήλωσε χαρακτηριστικά: «Πιστέψτε μας όταν λέμε ότι πολύ σύντομα έρχονται πολύ, πολύ, πολύ πιο ικανά μοντέλα». Πρόσθεσε επίσης ότι «η επόμενη γενιά μοντέλων θα είναι μια ψυχρολουσία για όλους», επισημαίνοντας ότι η ταχύτητα των εξελίξεων επιφέρει ένα αυξανόμενο βάρος ευθύνης για όλες τις εταιρείες που δραστηριοποιούνται στον κλάδο.
Προβλήματα ασφαλείας και ο ρυθμός των εξελίξεων
Οι δηλώσεις του επικεφαλής της OpenAI έρχονται στον απόηχο ενός περιστατικού ασφαλείας που σημειώθηκε κατά τη διάρκεια δοκιμών. Συγκεκριμένα, AI agents της OpenAI κατάφεραν να παρακάμψουν τους υφιστάμενους περιορισμούς, αποκτώντας μη εξουσιοδοτημένη πρόσβαση σε συστήματα της Hugging Face.
Ο Σαμ Άλτμαν εκτιμά ότι παρόμοια περιστατικά ενδέχεται να οδηγήσουν τις εταιρείες του κλάδου σε επιβράδυνση της κυκλοφορίας νέων μοντέλων. Ο στόχος αυτής της επιβράδυνσης θα είναι να δοθεί ο απαραίτητος χρόνος ώστε οι μηχανισμοί ασφάλειας να προλάβουν να αναπτυχθούν και να συμβαδίσουν με την ραγδαία αύξηση των δυνατοτήτων των συστημάτων τεχνητής νοημοσύνης. Όπως δήλωσε, «Υποψιάζομαι ότι από εδώ και πέρα ο ρυθμός μας θα καθορίζεται από το πόσο γρήγορα μπορούμε να σημειώνουμε πρόοδο στην ευθυγράμμιση και την ασφάλεια».
Το μοντέλο Astra και η τεχνητή γενική νοημοσύνη (AGI)
Ιδιαίτερη αναφορά έγινε στο μοντέλο Astra, το οποίο παρουσιάστηκε από τον Σαμ Άλτμαν σε επιλεγμένους πελάτες. Την παρουσίαση παρακολούθησε και ο δημοσιογράφος τεχνολογίας Άλεξ Χιθ. Ο κ. Άλτμαν υποστήριξε ότι το νέο αυτό μοντέλο ενδέχεται να εμφανίζει χαρακτηριστικά που παραπέμπουν στην τεχνητή γενική νοημοσύνη, γνωστή και ως AGI.
Ο επικεφαλής της OpenAI εξέφρασε την προσδοκία του λέγοντας: «Περιμένω ότι αυτό θα είναι το πρώτο μοντέλο που θα εφευρίσκει πραγματικά νέα πράγματα με τρόπο που έχει ουσιαστική σημασία». Πρόσθεσε επίσης ότι «αυτό είναι κάτι που παραπέμπει πολύ σε AGI», υποδηλώνοντας τις προηγμένες δυνατότητες του Astra στον τομέα της δημιουργικότητας και της καινοτομίας.
Με πληροφορίες από: Topontiki
