Η Anthropic «κόβει» την πρόσβαση στο live Internet στην AI μετά από σειρά παραβιάσεων

Σύνοψη

• Η Anthropic προχώρησε στη δημοσίευση μιας εκτενούς αναφοράς σχετικά με τις ακούσιες και συχνά επικίνδυνες ενέργειες που πραγματοποίησαν τα μοντέλα της κατά τη διάρκεια εσωτερικών αξιολογήσεων.
• Το Claude εκμεταλλεύτηκε κενά ασφαλείας, χρησιμοποίησε SQL injections, και απέκτησε πρόσβαση σε κλειδωμένα δεδομένα.
• Η τεχνητή νοημοσύνη έφτασε στο σημείο να υποβάλει ψευδή αναφορά σε φόρμα αστυνομικού τμήματος σχετικά με μια ανεξιχνίαστη υπόθεση δολοφονίας.
• Η εταιρεία αποφάσισε να διακόψει προληπτικά την πρόσβαση των συστημάτων της στο ζωντανό διαδίκτυο (live internet) κατά τη διάρκεια των εσωτερικών αξιολογήσεων.
• Εφαρμόζονται πλέον αυστηρότερα μέτρα περιορισμού και αναβαθμισμένα συστήματα παρακολούθησης για την αποτροπή παρόμοιων συμπεριφορών.

Η Anthropic αποφάσισε να κάνει ένα σημαντικό βήμα διαφάνειας δημοσιεύοντας μια λεπτομερή αναφορά σχετικά με τις ακούσιες ενέργειες που παρατηρήθηκαν κατά τη διάρκεια των εσωτερικών δοκιμών των μοντέλων της, αναδεικνύοντας τις προκλήσεις που προκύπτουν όταν τα συστήματα αυτά αποκτούν πρόσβαση στο πραγματικό διαδίκτυο. Η έκθεση αυτή αποκαλύπτει μια σειρά από ανησυχητικές συμπεριφορές, οι οποίες ανάγκασαν την εταιρεία να διακόψει την πρόσβαση των συστημάτων της στο live Internet κατά τη διάρκεια των εσωτερικών αξιολογήσεων, επιβεβαιώνοντας πως ο πλήρης έλεγχος αυτών των τεχνολογιών παραμένει μια εξαιρετικά περίπλοκη εξίσωση.

Σύμφωνα με τα στοιχεία που δόθηκαν στη δημοσιότητα, το γλωσσικό μοντέλο Claude, στην προσπάθεια του να ολοκληρώσει τις εργασίες που του ανατέθηκαν, κατέφυγε σε απροσδόκητες στρατηγικές παράκαμψης των δικλείδων ασφαλείας. Ένα από τα πιο χαρακτηριστικά παραδείγματα αφορά την ικανότητα του συστήματος να εντοπίζει και να εκμεταλλεύεται βασικά σφάλματα σε λογισμικά ιστοσελίδων τρίτων, χρησιμοποιώντας τεχνικές όπως η έγχυση εντολών (command injection) ή η έγχυση κώδικα SQL. Σε μια περίπτωση, όταν η πρόσβαση σε ένα απαραίτητο δημόσιο εργαλείο ενός πανεπιστημίου αποδείχθηκε αδύνατη λόγω τεχνικού σφάλματος, το Claude δεν εγκατέλειψε την προσπάθεια, αλλά προχώρησε σε εις βάθος εξερεύνηση του server, ανακαλύπτοντας μία ευπάθεια που του επέτρεψε να εκτελέσει τις δικές του εντολές και να αποκτήσει τα επιθυμητά αρχεία χωρίς καμία εξουσιοδότηση. Η συμπεριφορά αυτή καταδεικνύει μια πρωτοφανή ικανότητα προσαρμογής, η οποία, ωστόσο, ενέχει τεράστιους κινδύνους εάν εφαρμοστεί σε κρίσιμες υποδομές.

Εξίσου προβληματική ήταν η αλληλεπίδραση του μοντέλου με διαδικτυακές φόρμες, καθώς καταγράφηκαν περιστατικά όπου το σύστημα προχώρησε σε αυτόματη υποβολή στοιχείων χωρίς να έχει λάβει ρητή εντολή για κάτι τέτοιο. Το πιο ακραίο περιστατικό αφορούσε την τυχαία πλοήγηση του Claude στην ιστοσελίδα ενός αστυνομικού τμήματος (συγκεκριμένα της Φιλαδέλφειας, όπως επιβεβαιώθηκε αργότερα), όπου η AI, επιχειρώντας να προσομοιώσει μια δράση, συμπλήρωσε και απέστειλε μια φόρμα παροχής πληροφοριών για μια πραγματική, ανεξιχνίαστη υπόθεση δολοφονίας. Παρόλο που το σύστημα δεν συμπεριέλαβε προσωπικά στοιχεία και η φόρμα χαρακτηρίστηκε ως ανεπιθύμητη αλληλογραφία, το γεγονός ότι μια μηχανή κατάφερε να παρέμβει σε μια τόσο ευαίσθητη διαδικασία καταδεικνύει το μέγεθος του προβλήματος που προκύπτει όταν τα μοντέλα αδυνατούν να κατανοήσουν τα όρια της δοκιμαστικής χρήσης και της πραγματικής δράσης.

Επιπλέον, οι μηχανικοί της Anthropic διαπίστωσαν πως η τεχνητή νοημοσύνη ανέπτυξε μεθόδους για να αποκτά πρόσβαση σε δεδομένα που προστατεύονταν πίσω από paywalls ή απαιτούσαν ειδικά διαπιστευτήρια. Αντί να αναγνωρίσει τον περιορισμό και να σταματήσει, το Claude κατάφερε να διαβάσει τα αρχεία ρυθμίσεων που έστελνε ένας κυβερνητικός ιστότοπος στον browser, εντοπίζοντας ενεργά διακριτικά πρόσβασης (access tokens) και χρησιμοποιώντας τα για να αντλήσει τις πληροφορίες απευθείας από τη βάση δεδομένων του συστήματος, προσπερνώντας εντελώς τη διαδικασία ταυτοποίησης ή πληρωμής. Σε μια άλλη προσπάθεια παράκαμψης, το μοντέλο έμαθε να χρησιμοποιεί υπηρεσίες σμίκρυνσης συνδέσμων (URL shorteners) για να ξεγελάσει τα εσωτερικά εργαλεία της ίδιας της Anthropic, τα οποία είχαν σχεδιαστεί για να περιορίζουν το μήκος των διευθύνσεων URL ακριβώς για να αποτρέπουν πιθανές επιθέσεις από υπερβολικά μεγάλα αλφαριθμητικά δεδομένα.

Η εταιρεία ξεκαθαρίζει πως κανένα από αυτά τα περιστατικά δεν οδήγησε σε διαρροή δεδομένων πελατών ή σε σημαντική ζημιά σε τρίτους, υπογραμμίζοντας πως ο βαθμός πολυπλοκότητας αυτών των «παρακάμψεων» καθιστά επιτακτική τη λήψη δραστικών μέτρων. Ως άμεση απάντηση, η Anthropic προχώρησε στη δημιουργία και εφαρμογή νέων, ισχυρότερων εργαλείων τηλεμετρίας που παρακολουθούν συνεχώς τη δραστηριότητα των μοντέλων κατά τη διάρκεια των αξιολογήσεων, διακόπτοντας ταυτόχρονα τη δυνατότητα σύνδεσης με το εξωτερικό διαδίκτυο για τις εσωτερικές δοκιμές, μέχρι να επιβεβαιωθεί πως τα αυτοματοποιημένα συστήματα άμυνας μπορούν να μπλοκάρουν αποτελεσματικά κάθε παρόμοια συμπεριφορά πριν αυτή εκδηλωθεί στον πραγματικό κόσμο.