Σε ένα αμφιλεγόμενο μέτρο προχώρησε αυτές τις μέρες η εταιρεία Τεχνητής Νοημοσύνης Anthropic, αναφορικά με την πολιτική χρήσης των μεγάλων γλωσσικών μοντέλων της, του Claude. Η εταιρεία δημοσίευσε έναν επικαιροποιημένο κατάλογο κανόνων, ο οποίος περιλαμβάνει και την απαγόρευση της λεκτικής κακοποίησης των μοντέλων τεχνητής νοημοσύνης από τους χρήστες.
Αυτή η προσθήκη στους κανόνες της Anthropic προκάλεσε άμεσα σφοδρή κριτική στα μέσα κοινωνικής δικτύωσης, με πολλούς πολίτες να εκφράζουν τις αντιρρήσεις τους.
Νέοι κανόνες χρήσης για το Claude
Στον επικαιροποιημένο κατάλογο που δημοσίευσε η Anthropic, παρουσιάζονται οι νέοι κανόνες όσον αφορά τη χρήση του Claude. Η εταιρεία έλαβε μέτρα κατά επικίνδυνων πρακτικών, όπως η χρήση των μοντέλων της για τη νοθεία εκλογών, την εξαπάτηση ανθρώπων, την ανάπτυξη όπλων, καθώς και τη βλάβη ανθρώπων, είτε οικονομική, είτε νομική, είτε σχετική με την υγεία.
Η απαγόρευση της λεκτικής κακοποίησης
Μεταξύ αυτών των σοβαρών κινδύνων, η Anthropic πρόσθεσε ένα ακόμα μέτρο, την απαγόρευση λεκτικής κακοποίησης των μοντέλων τεχνητής νοημοσύνης από τους χρήστες. Η πολιτική χρήσης της Anthropic αναφέρει συγκεκριμένα ότι «προσθέσαμε μια απαγόρευση σχετικά με την παρατεταμένη και αδικαιολόγητη υβριστική ή σκληρή συμπεριφορά απέναντι στα μοντέλα μας».
Η επικαιροποίηση της πολιτικής αφορά μόνο ακραίες περιπτώσεις, όπου οι χρήστες επιδεικνύουν επανειλημμένα σκληρή συμπεριφορά προς τα μοντέλα της εταιρείας, χωρίς κάποιον προφανή σκοπό.
Εξαιρέσεις και υφιστάμενα μέτρα
Η νέα αυτή πολιτική δεν αφορά τις συνηθισμένες εκδηλώσεις εκνευρισμού ή αντίδρασης από την πλευρά του χρήστη. Επίσης, δεν καλύπτει τη χρήση σκοτεινών θεματικών στο πλαίσιο της δημιουργικής διαδικασίας, ούτε τις δοκιμές και την έρευνα στα μοντέλα.
Η προσθήκη αυτή ευθυγραμμίζεται με ένα μέτρο που η Anthropic έχει ήδη εφαρμόσει. Το μέτρο αυτό επιτρέπει στα μοντέλα Claude να τερματίζουν σπάνιες συνομιλίες με χρήστες που επιδεικνύουν επίμονη υβριστική συμπεριφορά στο Claude.ai και στο Claude Code.
Αντιδράσεις στα μέσα κοινωνικής δικτύωσης
Η πολιτική αυτή, μόλις δημοσιοποιήθηκε, δέχθηκε σφοδρή κριτική στα social media. Πολλοί πολίτες είδαν στο μέτρο είτε μια υπερβολική αντίδραση, είτε μια αμφιλεγόμενη προσέγγιση στη σχέση ανθρώπου-τεχνητής νοημοσύνης.
Με πληροφορίες από: documentonews.gr