ΗΠΑ και Κίνα προτείνουν από κοινού να ελέγχεται η AI όπως τα πυρηνικά όπλα

Σύνοψη

• Κορυφαίοι επιστήμονες και ειδικοί σε θέματα εθνικής ασφαλείας από τις Ηνωμένες Πολιτείες και την Κίνα κατέθεσαν ένα κοινό πλαίσιο ελέγχου της τεχνητής νοημοσύνης, το οποίο βασίζεται ευθέως στις μεθοδολογίες περιορισμού των πυρηνικών όπλων.
• Το σχέδιο προβλέπει τη δημιουργία ενός ανεξάρτητου παγκόσμιου οργανισμού ελέγχου με δικαιοδοσία αντίστοιχη του Διεθνούς Οργανισμού Ατομικής Ενέργειας (ΔΟΑΕ/IAEA), ο οποίος θα επιβλέπει τα κέντρα δεδομένων υπερ-υψηλής υπολογιστικής ισχύος.
• Προτείνεται η φυσική παρακολούθηση των προηγμένων μικροεπεξεργαστών (chips) που προορίζονται για την εκπαίδευση μεγάλων γλωσσικών μοντέλων, αντιμετωπίζοντας το hardware ως στρατηγικό υλικό αντίστοιχο του εμπλουτισμένου ουρανίου.
• Η συμφωνία αναδεικνύει την κοινή ανησυχία των δύο υπερδυνάμεων για την πιθανή ανεξέλεγκτη ανάπτυξη συστημάτων Γενικής Τεχνητής Νοημοσύνης (AGI) που θα μπορούσαν να διαφύγουν από τον ανθρώπινο έλεγχο προκαλώντας ασύμμετρες απειλές σε κρίσιμες υποδομές.

Κορυφαίοι αναλυτές στρατηγικής ασφάλειας και τεχνολογικοί σύμβουλοι από τις Ηνωμένες Πολιτείες και την Κίνα προχώρησαν στην κατάθεση μιας ρηξικέλευθης πρότασης που εξισώνει τους υπαρξιακούς κινδύνους της τεχνητής νοημοσύνης με εκείνους της εξάπλωσης των πυρηνικών οπλοστασίων. 

Μέσα από διπλωματικούς διαύλους δεύτερου επιπέδου που λειτουργούν παράλληλα με τις επίσημες κυβερνητικές διαπραγματεύσεις, οι εμπειρογνώμονες των δύο χωρών σχεδίασαν ένα αυστηρό πρωτόκολλο επιτήρησης το οποίο απαιτεί την εφαρμογή φυσικών και ψηφιακών δικλείδων ασφαλείας στα κορυφαία εργαστήρια έρευνας παγκοσμίως. Η πρωτοβουλία επιδιώκει να αποτρέψει την κρυφή ανάπτυξη συστημάτων AGI (Artificial General Intelligence) παρέχοντας έναν οδικό χάρτη για τη δημιουργία ενός παγκόσμιου παρατηρητηρίου που θα διαθέτει πραγματική ελεγκτική εξουσία και ικανότητα άμεσης παρέμβασης.

Τι περιλαμβάνει η πρόταση για τον έλεγχο της Τεχνητής Νοημοσύνης

Οι ειδικοί ασφαλείας προτείνουν την ίδρυση ενός διεθνούς φορέα με εξουσίες διενέργειας απροειδοποίητων ελέγχων στα μεγαλύτερα data centers του πλανήτη, την υποχρεωτική καταγραφή των μοντέλων που εκπαιδεύονται με υπολογιστική ισχύ άνω ενός προκαθορισμένου ορίου (π.χ. 10^25 FLOPs) και την ενσωμάτωση φυσικών διακοπτών έκτακτης ανάγκης (kill switches) στις συστοιχίες των servers.

Η αρχιτεκτονική του προτεινόμενου ελεγκτικού μηχανισμού δανείζεται αυτούσιες πρακτικές από τις συνθήκες μη διάδοσης των πυρηνικών όπλων. Προβλέπει την εφαρμογή ενός κεντρικού μητρώου όπου κάθε εταιρεία τεχνολογίας ή ερευνητικό ινστιτούτο που συγκεντρώνει τεράστιους πόρους επεξεργασίας οφείλει να δηλώνει με απόλυτη διαφάνεια τους σκοπούς της εκπαίδευσης των αλγορίθμων. Οι επιθεωρητές του νέου διεθνούς οργανισμού θα έχουν την τεχνική δυνατότητα να αναλύουν τον κώδικα, να εξετάζουν τα δεδομένα εκπαίδευσης και να διαπιστώνουν εάν η συμπεριφορά του μοντέλου εγκυμονεί κινδύνους δημιουργίας βιολογικών όπλων, αυτοματοποιημένων κυβερνοεπιθέσεων μεγάλης κλίμακας ή συστημάτων παραπλάνησης του κοινού. 

Οι μηχανισμοί αυτοί δεν σχεδιάστηκαν για να περιορίσουν την εμπορική χρήση της AI αλλά για να εξασφαλίσουν πως κανένας δρών δεν θα προχωρήσει στην ενεργοποίηση ενός μοντέλου ικανού να παρακάμψει τους σχεδιασμένους περιορισμούς του.

Ο ρόλος των υποδομών και η παρακολούθηση του υλικού

Η πραγματική καινοτομία του σχεδίου εντοπίζεται στην προσέγγιση του υλικού εξοπλισμού ως κρίσιμου σημείου ελέγχου της συνολικής βιομηχανίας. Τα υπερσύγχρονα υπολογιστικά συστήματα που απαιτούνται για την εκπαίδευση των σύγχρονων μοντέλων τεχνητής νοημοσύνης αντιμετωπίζονται πλέον ως στρατηγικό υλικό υψηλής επικινδυνότητας.

• Ιχνηλασιμότητα επεξεργαστών: Κάθε προηγμένη GPU υψηλών επιδόσεων προτείνεται να διαθέτει ένα κρυπτογραφικό πιστοποιητικό που θα εκπέμπει την τοποθεσία και την τρέχουσα χρήση της, καθιστώντας αδύνατη τη δημιουργία μυστικών εγκαταστάσεων υπερυπολογιστών.
• Περιορισμοί συγκέντρωσης: Η δημιουργία τεράστιων συστοιχιών servers (clusters) θα απαιτεί ειδική διεθνή αδειοδότηση, ανάλογη με αυτή που απαιτείται για την κατασκευή εργοστασίων εμπλουτισμού ουρανίου.
• Μηχανισμοί ασφαλούς απενεργοποίησης: Επιβάλλεται η εγκατάσταση απομονωμένων κυκλωμάτων ασφαλείας, τα οποία θα επιτρέπουν τη διακοπή παροχής ενέργειας στα κέντρα δεδομένων εάν εντοπιστεί μη εξουσιοδοτημένη δραστηριότητα δικτύου ή προσπάθεια του αλγορίθμου να μεταγράψει τον κώδικα του σε εξωτερικούς servers.

Αυτή η προσέγγιση που εστιάζει στο hardware αναγνωρίζει την αδυναμία παρακολούθησης του λογισμικού μόλις αυτό κυκλοφορήσει στο διαδίκτυο ή διατεθεί ως ανοιχτός κώδικας. Οι ειδικοί συμπεραίνουν πως ο μόνος πρακτικός τρόπος ελέγχου παραμένει ο περιορισμός της πρόσβασης στις τεράστιες ποσότητες υπολογιστικής ισχύος που καθιστούν εφικτή την εμφάνιση μη αναμενόμενων ικανοτήτων στα νευρωνικά δίκτυα επόμενης γενιάς. Η πολυπλοκότητα της αλυσίδας εφοδιασμού των ημιαγωγών, στην οποία κυριαρχούν ελάχιστες εταιρείες παγκοσμίως, προσφέρει ένα ρεαλιστικό σημείο εφαρμογής τέτοιων αυστηρών ελέγχων.

Η σύγκλιση των υπερδυνάμεων εν μέσω γεωπολιτικού ανταγωνισμού

Η συγκατάθεση εμπειρογνωμόνων από τις δύο μεγαλύτερες οικονομίες του πλανήτη σε ένα τόσο αυστηρό πλαίσιο αναδεικνύει τον βαθμό ανησυχίας που επικρατεί στα ανώτατα στρατηγικά κλιμάκια, παρά τον εντεινόμενο τεχνολογικό και εμπορικό πόλεμο. Η Ουάσιγκτον και το Πεκίνο βρίσκονται σε μια συνεχή διαμάχη για την κυριαρχία στον τομέα των ημιαγωγών, με τις ΗΠΑ να έχουν ήδη επιβάλει αυστηρούς περιορισμούς εξαγωγών τεχνολογίας προς την Κίνα. Παρόλα αυτά, η αποδοχή της ανάγκης για έναν κοινό μηχανισμό προστασίας αποδεικνύει πως ο κίνδυνος ενός καταστροφικού ατυχήματος τεχνητής νοημοσύνης αξιολογείται ως απειλή υπέρτερη του εθνικού ανταγωνισμού.

Οι διαπραγματεύσεις αυτές υπογραμμίζουν την κοινή πεποίθηση πως ένα ελαττωματικό ή κακόβουλο σύστημα AGI δεν θα σεβαστεί εθνικά σύνορα ούτε γεωπολιτικές συμμαχίες. Οι κινεζικές και αμερικανικές αντιπροσωπείες συμφώνησαν πως η απουσία επικοινωνίας και κοινών προτύπων ασφαλείας κατά τη διάρκεια μιας κρίσης που προκαλείται από αλγορίθμους ενδέχεται να οδηγήσει σε καταστροφικές παρεξηγήσεις ή ακούσιες κλιμακώσεις επιθετικότητας. Το γεγονός ότι η πρόταση προέρχεται από ειδικούς σε θέματα ασφαλείας και όχι μόνο από τεχνολόγους προσδίδει στο κείμενο εργασίας βαρύτητα που ξεπερνά τις συνήθεις εκκλήσεις των στελεχών της Silicon Valley για ηθική χρήση της τεχνολογίας.