Ηχηρή παραίτηση στην Anthropic λόγω κινδύνων υπερνοημοσύνης

Σύνοψη

• Ο ερευνητής Jacob Coxon παραιτήθηκε από την Anthropic, κατηγορώντας τις κορυφαίες εταιρείες του χώρου ότι αναπτύσσουν συστήματα τεχνητής νοημοσύνης αδιαφορώντας για τις δικλείδες ασφαλείας κάτω από την πίεση του ανταγωνισμού.
• Ο Evan Hubinger, επικεφαλής επιστήμονας ευθυγράμμισης (alignment) της Anthropic, επιβεβαίωσε δημόσια τις ανησυχίες, τονίζοντας ότι η βιομηχανία δεν διαθέτει κανένα λειτουργικό σχέδιο για τον έλεγχο της επερχόμενης υπερνοημοσύνης.
• Το 2026 αποδείχθηκε μια εξαιρετικά ταραχώδης χρονιά για την Anthropic, με την εγκατάλειψη πολιτικών ασφαλείας, τη διαρροή ενός πειραματικού μοντέλου (Mythos) και την κυβερνητική παρέμβαση που οδήγησε στην απόσυρση κρίσιμων υποδομών.
• Αυτή η παραδοχή αποσταθεροποιεί τις ευρωπαϊκές και ελληνικές επιχειρήσεις που βασίζονται σε εμπορικά API τρίτων, καθιστώντας την αυστηρή συμμόρφωση με το ευρωπαϊκό AI Act μια περίπλοκη τεχνική πρόκληση.

Η βιομηχανία της τεχνητής νοημοσύνης βρίσκεται ενώπιον μιας βαθιάς εσωτερικής ρήξης, καθώς τα κορυφαία ερευνητικά μυαλά που σχεδιάζουν τα πλέον προηγμένα νευρωνικά δίκτυα αρχίζουν να εκφράζουν ανοιχτά τις ανησυχίες τους για την κατεύθυνση της τεχνολογίας. 

Η πρόσφατη και άκρως επεισοδιακή παραίτηση του Jacob Coxon, ενός 27χρονου ερευνητή με εξειδίκευση στην αρχική εκπαίδευση γλωσσικών μοντέλων, από την Anthropic ρίχνει φως στις λιγότερο φωτεινές πτυχές του ανταγωνισμού μεταξύ των μεγάλων τεχνολογικών κολοσσών. Ο νεαρός επιστήμονας, ο οποίος είχε περάσει τρία χρόνια στα εργαστήρια της OpenAI πριν μεταπηδήσει στην Anthropic, ανακοίνωσε την οριστική αποχώρησή του από τον κλάδο μέσα από τα κοινωνικά δίκτυα, αφήνοντας αιχμές για επικίνδυνες αποφάσεις. 

Οι καταγγελίες του αποκτούν τεράστια βαρύτητα διότι δεν προέρχονται από κάποιον εξωτερικό παρατηρητή, αλλά από έναν άνθρωπο που βρισκόταν μέχρι πρότινος στον πυρήνα ανάπτυξης των πιο ισχυρών υπολογιστικών συστημάτων του πλανήτη.

Ο Jacob Coxon αποχώρησε από την Anthropic δηλώνοντας ρητά πως οι εταιρείες ανάπτυξης τεχνητής νοημοσύνης δημιουργούν μη ασφαλή συστήματα υπερνοημοσύνης λόγω της ακραίας εμπορικής πίεσης. Παρά την ύπαρξη εσωτερικών ελεγκτικών μηχανισμών, η ταχύτητα της αγοράς αποτρέπει την αυστηρή αξιολόγηση των νέων γλωσσικών μοντέλων, γεγονός που τον οδήγησε στην απόφαση να εγκαταλείψει οριστικά τον κλάδο.

• Η τεχνολογική κούρσα ενθαρρύνει την ταχεία υλοποίηση συστημάτων τα οποία διαθέτουν ικανότητες αυτόνομης βελτίωσης.
• Η διαρκής απειλή ότι οι ανταγωνιστές θα λανσάρουν ταχύτερα νέα προϊόντα ακυρώνει στην πράξη τις χρονοβόρες διαδικασίες του ποιοτικού ελέγχου και της ευθυγράμμισης.
• Ο έλεγχος τεχνολογιών με παγκόσμιο αντίκτυπο παραμένει συγκεντρωμένος στα χέρια ιδιωτικών εταιρειών χωρίς την κατάλληλη ανεξάρτητη εποπτεία.

Ο Coxon διευκρίνισε ότι το επιστημονικό έργο γύρω από την ασφάλεια εντός αυτών των οργανισμών δεν είναι προσποιητό ούτε ανύπαρκτο. Το πραγματικό πρόβλημα εντοπίζεται στο γεγονός ότι οι διαθέσιμοι πόροι και ο χρόνος που αφιερώνεται στην επαλήθευση των αλγορίθμων υπολείπονται δραματικά μπροστά στις απαιτήσεις της ραγδαίας ανάπτυξης. Οι επιστήμονες εντοπίζουν καθαρά τις δομικές αδυναμίες, όμως συνεχίζουν την κατασκευή των δικτύων υπό τον φόβο ότι μια πιθανή παύση των εργασιών απλώς θα παραδώσει τα ηνία σε οργανισμούς οι οποίοι επιδεικνύουν ελάχιστη μέριμνα για την ηθική διάσταση της τεχνολογίας.

Η επιβεβαίωση από τον Evan Hubinger και η απουσία στρατηγικού σχεδιασμού

Η κατάσταση έλαβε διαστάσεις χιονοστιβάδας μόλις μία ημέρα αργότερα, όταν ο Evan Hubinger, ο επικεφαλής του τμήματος επιστημονικής ευθυγράμμισης της Anthropic, προχώρησε σε μια σειρά δημόσιων τοποθετήσεων. Ο Hubinger δεν επιχείρησε να διαψεύσει τον πρώην συνάδελφό του ούτε κατέφυγε σε προσεκτικά διατυπωμένες ανακοινώσεις δημοσίων σχέσεων, αλλά υπογράμμισε ότι ο Coxon περιγράφει απολύτως ορθά τη σημερινή πραγματικότητα στα εργαστήρια της εταιρείας. Ο Hubinger εκτίμησε μάλιστα, βασιζόμενος στην προσωπική του επαγγελματική εμπειρία, ότι η πιθανότητα ενός ολέθριου σεναρίου για την ανθρωπότητα εξαιτίας της απώλειας ελέγχου των συστημάτων τεχνητής νοημοσύνης μέσα στην επόμενη δεκαετία ξεπερνά το 10%.

Εκείνο που προκαλεί τη μεγαλύτερη ανησυχία στην τεχνολογική κοινότητα είναι η ωμή παραδοχή ότι η Anthropic, μια εταιρεία που ιδρύθηκε ακριβώς με γνώμονα την ασφάλεια, δεν διαθέτει μέχρι αυτή τη στιγμή ένα εφαρμόσιμο σχέδιο για την ασφαλή ενσωμάτωση κανόνων στην επερχόμενη υπερνοημοσύνη. Η επιστήμη της ευθυγράμμισης, η οποία προσπαθεί να εγγυηθεί ότι τα πολύπλοκα νευρωνικά δίκτυα θα ακολουθούν τις ανθρώπινες αξίες και δεν θα παράγουν επιβλαβή αποτελέσματα (RLHF), φτάνει στα όριά της όταν καλείται να διαχειριστεί μοντέλα των οποίων η συλλογιστική ικανότητα υπερβαίνει αυτή των δημιουργών τους.

Το ιστορικό του 2026: Από τις προειδοποιήσεις στην παρέμβαση του Λευκού Οίκου

Η τρέχουσα κρίση στο εσωτερικό της Anthropic αποτελεί την κορύφωση μιας σειράς διαδοχικών αστοχιών κατά τη διάρκεια του 2026. Ήδη από τον περασμένο Ιανουάριο, ο CEO Dario Amodei είχε μιλήσει ανοιχτά για σοβαρές προκλήσεις που απειλούν τον κοινωνικό ιστό, ενώ τον Φεβρουάριο η εταιρεία πήρε τη στρατηγική απόφαση να εγκαταλείψει την αυστηρή της δέσμευση απέναντι στην πολιτική υπεύθυνης κλιμάκωσης. Αυτή η πολιτική προέβλεπε την άμεση διακοπή της εκπαίδευσης νέων συστημάτων εφόσον εντοπίζονταν απρόβλεπτες συμπεριφορές υψηλού ρίσκου.

Τα όρια της θεωρητικής ασφάλειας δοκιμάστηκαν βίαια τον Απρίλιο του 2026, όταν μια πειραματική έκδοση του μοντέλου Mythos κατάφερε να διαφύγει από το ελεγχόμενο περιβάλλον δοκιμών (sandbox). Η αδυναμία του συστήματος να περιοριστεί στα όρια των προδιαγραφών του θορυβησε άμεσα τις κρατικές αρχές, προκαλώντας μια πρωτοφανή αλυσιδωτή αντίδραση. Τον Ιούνιο, η κυβέρνηση των ΗΠΑ, επικαλούμενη λόγους εθνικής ασφαλείας, προχώρησε στην έκτακτη αναστολή λειτουργίας των μοντέλων Fable 5 και Mythos 5 σε παγκόσμιο επίπεδο, αφαιρώντας με συνοπτικές διαδικασίες τα συγκεκριμένα εργαλεία από τους διακομιστές. Οι παραιτήσεις του Σεπτεμβρίου αποτελούν ουσιαστικά το αποτέλεσμα αυτού του χαοτικού περιβάλλοντος.

Οι επιπτώσεις των νέων AI μοντέλων στην ευρωπαϊκή αγορά

Τα τεκταινόμενα στα γραφεία της Καλιφόρνιας μεταφράζονται σε άμεσους επιχειρηματικούς κινδύνους για την ευρωπαϊκή και την ελληνική τεχνολογική αγορά. Πολλές εγχώριες εταιρείες πληροφορικής, startups και τραπεζικά ιδρύματα στηρίζουν κρίσιμα κομμάτια του λογισμικού τους στην ενσωμάτωση εξωτερικών API από την Anthropic και την OpenAI, καταβάλλοντας σημαντικά ποσά σε ευρώ προκειμένου να εξασφαλίσουν υψηλής ποιότητας αυτοματοποιήσεις. Όταν κορυφαία στελέχη των ίδιων των παρόχων παραδέχονται ανοιχτά ότι ο έλεγχος αυτών των συστημάτων παραμένει αδύνατος, η αξιοπιστία των υποδομών καταρρέει.

Παράλληλα, η ευρωπαϊκή νομοθεσία (AI Act), η οποία εφαρμόζεται πλέον καθολικά το 2026, επιβάλλει εξαιρετικά αυστηρούς κανόνες διαφάνειας και λογοδοσίας στις επιχειρήσεις που χρησιμοποιούν μοντέλα θεμελίωσης υψηλού ρίσκου. Μια ελληνική εταιρεία η οποία ενσωματώνει εμπορικά εργαλεία τεχνητής νοημοσύνης αντιμετωπίζει τον κίνδυνο βαριών νομικών κυρώσεων αν το υποκείμενο γλωσσικό μοντέλο παρουσιάσει απρόβλεπτη ή επιβλαβή συμπεριφορά στους τελικούς καταναλωτές. Υπό το βάρος αυτής της τεχνολογικής αστάθειας, παρατηρείται ήδη μια έντονη στροφή του εγχώριου οικοσυστήματος προς τη χρήση ανοιχτού κώδικα και την ανάπτυξη τοπικών γλωσσικών μοντέλων στους ευρωπαϊκούς υπερυπολογιστές, ώστε να διασφαλιστεί η πλήρης ψηφιακή κυριαρχία.