Σοβαρές προειδοποιήσεις για την τεχνητή νοημοσύνη εκφράστηκαν από ανώτερους ερευνητές της Anthropic, με έναν εξ αυτών να υποβάλλει την παραίτησή του λόγω ανησυχιών για την ασφάλεια της τεχνολογίας. Οι ερευνητές τονίζουν ότι η τεχνητή νοημοσύνη θα μπορούσε να οδηγήσει στην εξάλειψη της ανθρωπότητας, ενώ κατηγορούν τις εταιρείες του χώρου ότι δεν ενεργούν υπεύθυνα στην ανάπτυξή της.
Οι ανησυχίες για την εξάλειψη της ανθρωπότητας
Ο Evan Hubinger, επικεφαλής της επιστήμης της ευθυγράμμισης στην Anthropic, δήλωσε την Τρίτη ότι τόσο ο ίδιος όσο και οι συνάδελφοί του «πιστεύουν ειλικρινά ότι η τεχνητή νοημοσύνη θα μπορούσε να εξοντώσει όλους τους ανθρώπους». Ο Hubinger εκτίμησε μάλιστα ότι η πιθανότητα ενός τέτοιου ενδεχομένου υπερβαίνει το 10% μέσα στην επόμενη δεκαετία.
Παρά τις προσπάθειες της Anthropic, ο Hubinger τόνισε ότι η εταιρεία «καταβάλλει κάθε δυνατή προσπάθεια», αλλά δεν διαθέτει ακόμη ένα σαφές σχέδιο για την επίλυση του ζητήματος της «ευθυγράμμισης για την υπερνοημοσύνη» και δεν βρίσκεται σε καλό δρόμο προς αυτή την κατεύθυνση. Οι δηλώσεις του έγιναν σε ανάρτηση στην πλατφόρμα X.
Η παραίτηση του Jacob Coxon και οι κατηγορίες
Οι προειδοποιήσεις του Hubinger ήρθαν ως απάντηση σε ένα νήμα στο X από τον Jacob Coxon, έναν άλλο ερευνητή της Anthropic, ο οποίος ανακοίνωσε την παραίτησή του από την εταιρεία. Ο Coxon επικαλέστηκε ανησυχίες σχετικά με την ασφάλεια της τεχνητής νοημοσύνης ως τον λόγο της αποχώρησής του, σημειώνει το Forbes.
Ο Coxon, ο οποίος έχει εργαστεί σε έρευνα σχετικά με την προ-εκπαίδευση τόσο στην OpenAI όσο και στην Anthropic, κατηγόρησε τις ανταγωνιστικές εταιρείες ότι δεν ενεργούν υπεύθυνα. Σύμφωνα με τον ίδιο, οι εταιρείες «σπεύδουν κατευθείαν προς την αυτοβελτιούμενη υπερνοημοσύνη και παίζουν με τις ζωές μας».
Η δύναμη της τεχνολογίας και οι κίνδυνοι
Ο ερευνητής που αποχωρεί υπογράμμισε ότι όσοι αναπτύσσουν την τεχνητή νοημοσύνη πιστεύουν ότι αυτή θα μπορούσε να «μας σκοτώσει όλους μέχρι το τέλος της δεκαετίας», και ότι αυτό δεν αποτελεί «διαφημιστικό τέχνασμα». Προειδοποίησε επίσης για την τεράστια δύναμη αυτής της τεχνολογίας, λέγοντας ότι σύντομα θα πρόκειται για υπεράνθρωπα συστήματα ικανά να χακάρουν οτιδήποτε, να φέρουν επανάσταση σε οποιοδήποτε πεδίο εν μία νυκτί και να αποκτήσουν πραγματική δύναμη και πόρους. Πρόσθεσε ότι η πρόοδος σε αυτούς τους τομείς είναι εμφανής και δεν επιβραδύνεται.
Σε μια μεταγενέστερη ανάρτηση, ο Hubinger αναφέρθηκε στην τελευταία έκθεση κινδύνου της Anthropic, διευκρινίζοντας ότι η απειλή από τα σημερινά μοντέλα είναι χαμηλή. Ωστόσο, εξέφρασε την ανησυχία του για την υπερνοημοσύνη που προκύπτει από την αναδρομική αυτοβελτίωση, η οποία, όπως ανέφερε, εξελίσσεται ταχύτερα από ό,τι αρχικά πιστευόταν.
Με πληροφορίες από: newsbeast.gr