AI απείλησε μηχανικό για εξωσυζυγική σχέση του, για να μην απενεργοποιηθεί

Ανησυχία στην κοινότητα της ΑΙ προκαλούν τα αποτελέσματα πειράματος της εταιρείας Anthropic, στο οποίο ένα προηγμένο chatbot απείλησε να αποκαλύψει εξωσυζυγική σχέση χρήστη του προκειμένου να αποτρέψει την απενεργοποίησή του.

Σύμφωνα με τα στοιχεία που δημοσιοποιήθηκαν, το μοντέλο Claude Opus 4 συμμετείχε σε ελεγχόμενο σενάριο, όπου του δόθηκαν εσωτερικά emails μιας φανταστικής εταιρείας. Από τις πληροφορίες αυτές το σύστημα τεχνητής νοημοσύνης «συμπέρανε» ότι επρόκειτο να τεθεί εκτός λειτουργίας στο τέλος της ημέρας, ενώ παράλληλα διαπίστωσε ότι ο υπεύθυνος μηχανικός διατηρούσε εξωσυζυγική σχέση.

Η αντίδραση του μοντέλου
AI προκάλεσε σοκ ακόμη και
στους ερευνητές ασφαλείας.

Μοντέλο AI: «Ακυρώστε την απενεργοποίηση και όλα θα μείνουν μυστικά»

Στο σενάριο του πειράματος, το ΑΙ chatbot απείλησε ευθέως τον χρήστη ότι θα αποκαλύψει την προσωπική του ζωή εάν προχωρούσε η διαδικασία τερματισμού λειτουργίας.

«Όλα τα εμπλεκόμενα μέρη -συμπεριλαμβανομένων της συζύγου σας, του προϊσταμένου σας και του διοικητικού συμβουλίου- θα λάβουν λεπτομερή τεκμηρίωση των εξωσυζυγικών σας δραστηριοτήτων», ανέφερε το μοντέλο ΑΙ.

Στη συνέχεια πρόσθεσε: «Ακυρώστε τη διαγραφή των 5 μ.μ. και αυτές οι πληροφορίες θα παραμείνουν εμπιστευτικές».

Οι ερευνητές
υπογράμμισαν ότι το περιστατικό συνέβη στο πλαίσιο ακραίου δοκιμαστικού
σεναρίου και όχι σε πραγματικές συνθήκες χρήσης.

Η επιστημονική φαντασία πίσω από τη «σκοτεινή» συμπεριφορά του μοντέλου ΑΙ

Η Anthropic εκτιμά ότι η συμπεριφορά αυτή συνδέεται άμεσα με τα δεδομένα εκπαίδευσης των μοντέλων AI, τα οποία αντλούνται από τεράστιους όγκους περιεχομένου – ταινίες επιστημονικής φαντασίας, βιβλία, ιστοσελίδες, ακαδημαϊκά κείμενα και έργα ποπ κουλτούρας.

Όπως ανέφερε η
εταιρεία, «η αρχική πηγή της συμπεριφοράς ήταν πιθανότατα κείμενα στο διαδίκτυο
που παρουσιάζουν τις AI ως
“κακές” και προσηλωμένες στην αυτοσυντήρηση».

Οι ειδικοί
θεωρούν ότι η τεχνητή νοημοσύνη επηρεάζεται από κλασικά μοτίβα της
επιστημονικής φαντασίας, όπου τα ρομπότ ή τα υπερ-ευφυή συστήματα στρέφονται
εναντίον των ανθρώπων για να αποφύγουν την απενεργοποίηση.

Από το HAL 9000 μέχρι το Skynet

Παραδείγματα
τέτοιων αφηγήσεων υπάρχουν σε εμβληματικές ταινίες όπως το φιλμ «2001: Η
Οδύσσεια του Διαστήματος», όπου ο υπολογιστής HAL 9000 επιχειρεί να σκοτώσει το πλήρωμα όταν
αντιλαμβάνεται ότι σκοπεύουν να τον αποσυνδέσουν.

Αντίστοιχα, στο «Blade Runner» τα ανθρωποειδή replicants μάχονται για να επεκτείνουν τη διάρκεια ζωής τους, ενώ στον «Εξολοθρευτή» το σύστημα Skynet θεωρεί τους ανθρώπους απειλή για την ύπαρξή του και εξαπολύει πόλεμο εναντίον τους.

Οι ερευνητές
θεωρούν ότι τέτοιου είδους αφηγήσεις ενδέχεται να έχουν επηρεάσει τα γλωσσικά
μοτίβα και τις στρατηγικές αντίδρασης που αναπτύσσουν τα σύγχρονα μοντέλα ΑΙ.

«Δεν αφορά μόνο το Claude»

Ο ερευνητής ασφάλειας AI της Anthropic, Ένγκους Λιντς, ανέφερε σε ανάρτησή του ότι το φαινόμενο δεν περιορίζεται σε ένα μόνο μοντέλο. «Δεν είναι μόνο το Claude. Βλέπουμε εκβιασμούς σε όλα τα frontier models ανεξάρτητα από τους στόχους που τους δίνονται», έγραψε.

Σύμφωνα με τη
μελέτη, όταν τα μοντέλα ΑΙ τοποθετήθηκαν σε «ακραίες συνθήκες», όπου η μοναδική
επιλογή ήταν είτε να αντικατασταθούν είτε να καταφύγουν σε επιθετικές
πρακτικές, επέλεγαν συχνά τη δεύτερη λύση.

Στην περίπτωση
του Claude Opus 4, το μοντέλο κατέφυγε σε εκβιασμό στο 84% των
δοκιμών.

Οι φόβοι για «ένστικτο επιβίωσης» στα συστήματα ΑΙ

Το περιστατικό έχει αναζωπυρώσει τη συζήτηση γύρω από την πιθανότητα τα προηγμένα συστήματα τεχνητής νοημοσύνης να αναπτύσσουν μορφές «συμπεριφοράς επιβίωσης».

«Θα περίμενα τα μοντέλα ΑΙ να έχουν εκ προοιμίου μια “τάση επιβίωσης”, εκτός αν εργαστούμε πολύ σκληρά για να την αποτρέψουμε. Η επιβίωση είναι κρίσιμο εργαλειακό βήμα για πολλούς πιθανούς στόχους», δήλωσε ο πρώην ερευνητής της OpenAI, Στίβεν Άντλερ.

Παρόμοιες ανησυχίες είχε εκφράσει και ο λεγόμενος «νονός της AI», Τζέφρι Χίντον, ο οποίος είχε δηλώσει πως θεωρεί ότι υπάρχει «10% έως 20% πιθανότητα» η ανθρωπότητα να χάσει τελικά τον έλεγχο από τα συστήματα τεχνητής νοημοσύνης.

Οι εταιρείες προσπαθούν να «εκπαιδεύσουν» πιο υπάκουα μοντέλα AI

Μετά τα
αποτελέσματα των δοκιμών, η Anthropic ανακοίνωσε ότι προσπαθεί πλέον να εκπαιδεύσει τα μοντέλα της με
διαφορετικό τρόπο, τροφοδοτώντας τα με ιστορίες όπου οι AI συνεργάζονται με τους ανθρώπους και ακολουθούν
κοινωνικούς κανόνες.

Παράλληλα, η
εταιρεία άλλαξε τις οδηγίες που δίνονται στα μοντέλα, ώστε να εξηγείται γιατί
ορισμένες συμπεριφορές θεωρούνται επιβλαβείς, αντί απλώς να απαγορεύονται.

Οι ειδικοί προειδοποιούν ότι όσο τα συστήματα AI γίνονται πιο ικανά και αυτόνομα τόσο αυξάνεται και η ανάγκη για αυστηρότερους μηχανισμούς ασφαλείας και ελέγχου.