«Ένας περίπλοκος μηχανισμός προπαγάνδας» -Τι καταγγέλλουν πρώην ερευνητές της OpenAI -Στοιχεία «σοκ»

Σύμφωνα με πηγές του Wired, τουλάχιστον δύο εργαζόμενοι στην ομάδα οικονομικής έρευνας της OpenAI παραιτήθηκαν εξαιτίας της απογοήτευσής τους.

Η OpenAI έχει χτίσει σε μεγάλο βαθμό τη δημόσια εικόνα της πάνω στην υπόσχεση της διαφάνειας: από τα πρώτα της βήματα δημοσίευε έρευνες για τους κινδύνους, τις κοινωνικές συνέπειες και τις οικονομικές επιπτώσεις της τεχνητής νοημοσύνης που η ίδια ανέπτυσσε.

Ωστόσο, σύμφωνα με ρεπορτάζ του Wired, η εταιρεία υπό την ηγεσία του Sam Altman εμφανίζεται πλέον ολοένα και πιο «επιφυλακτική» απέναντι στη δημοσίευση ερευνών που καταλήγουν σε άβολα συμπεράσματα – ιδίως όταν αυτά υπονοούν ότι η AI μπορεί να έχει αρνητικές συνέπειες για την οικονομία.

Έμμεση λογοκρισία

Η ένταση γύρω από αυτό που ορισμένοι περιγράφουν ως έμμεση λογοκρισία φαίνεται να έχει ήδη πρακτικές συνέπειες. Σύμφωνα με τέσσερις πηγές του Wired, τουλάχιστον δύο εργαζόμενοι στην ομάδα οικονομικής έρευνας της OpenAI παραιτήθηκαν εξαιτίας της απογοήτευσής τους.

Ένας από αυτούς ήταν ο οικονομολόγος Tom Cunningham, ο οποίος, στο εσωτερικό αποχαιρετιστήριο μήνυμά του, κατηγόρησε την ομάδα ότι απομακρύνεται από την ουσιαστική έρευνα και λειτουργεί ολοένα περισσότερο ως «μηχανισμός προπαγάνδας» του ίδιου του εργοδότη της.

Η εταιρεία πρέπει να «χτίζει λύσεις»

Λίγο μετά την αποχώρησή του, ο επικεφαλής στρατηγικής της OpenAI, Jason Kwon, απέστειλε εσωτερικό υπόμνημα στο οποίο υποστήριζε ότι η εταιρεία πρέπει να «χτίζει λύσεις» και όχι απλώς να δημοσιεύει έρευνες πάνω σε «δύσκολα ζητήματα».

Όπως έγραψε στο Slack, το πρόβλημα δεν είναι ότι δεν πρέπει να συζητούνται τα δύσκολα θέματα, αλλά ότι η OpenAI, ως «ο κορυφαίος παίκτης» που φέρνει την τεχνητή νοημοσύνη στον κόσμο, οφείλει να αναλαμβάνει ενεργό ρόλο για τις συνέπειες των τεχνολογιών της. Για επικριτές εντός και εκτός της εταιρείας, αυτή η λογική μεταφράζεται σε στροφή από την κριτική ανάλυση προς μια πιο προωθητική αφήγηση.

Το φαινόμενο αυτό εντάσσεται σε μια ευρύτερη μεταμόρφωση της OpenAI. Όταν ιδρύθηκε το 2016, παρουσιαζόταν ως μη κερδοσκοπικός οργανισμός με αποστολή την ανάπτυξη ανοιχτής και ασφαλούς AI προς όφελος της ανθρωπότητας.

Σήμερα, τα μοντέλα της είναι κλειστά, η δομή της έχει μετατραπεί σε for-profit public benefit corporation και –σύμφωνα με δημοσιεύματα– σχεδιάζεται μελλοντική εισαγωγή στο χρηματιστήριο με αποτίμηση που θα μπορούσε να φτάσει το ένα τρισεκατομμύριο δολάρια.

Παρότι το μη κερδοσκοπικό σκέλος παραμένει τυπικά επικεφαλής, η εταιρεία έχει αντλήσει δισεκατομμύρια σε επενδύσεις και έχει συνάψει συμφωνίες τεράστιας κλίμακας. Από τη μία πλευρά, εξασφαλίζει δεσμεύσεις επενδύσεων έως και 100 δισ. δολαρίων από κατασκευαστές chips· από την άλλη, έχει ανακοινώσει ότι θα καταβάλει έως 250 δισ. δολάρια στη Microsoft για υπηρεσίες cloud μέσω της Azure. Με τέτοια οικονομικά μεγέθη σε εκκρεμότητα, η δημοσίευση ερευνών που θα ενίσχυαν φόβους για απώλεια θέσεων εργασίας, «φούσκα» AI ή ευρύτερους κοινωνικούς κινδύνους αποκτά σαφές επιχειρηματικό κόστος.

Η οικονομική έρευνα της OpenAI εποπτεύεται σήμερα από τον Aaron Chatterji, ο οποίος ηγήθηκε πρόσφατης έκθεσης που παρουσίαζε τη χρήση του ChatGPT παγκοσμίως ως απόδειξη αύξησης της παραγωγικότητας. Πρώην συνεργάτης της εταιρείας δήλωσε ανώνυμα στο Wired ότι τέτοιες μελέτες τείνουν πλέον να «δοξάζουν» την τεχνολογία αντί να την εξετάζουν κριτικά.

Ο Cunningham δεν είναι η μοναδική αποχώρηση με ηθικό υπόβαθρο. Ο William Saunders εγκατέλειψε την πλέον ανενεργή ομάδα Superalignment, καταγγέλλοντας προτεραιότητα στα «νεότερα και πιο λαμπερά προϊόντα» εις βάρος της ασφάλειας.

Ο πρώην ερευνητής Steven Adler έχει δημοσίως επικρίνει την OpenAI για κινδύνους που, όπως υποστηρίζει, συνδέονται με ψυχολογικές κρίσεις χρηστών του ChatGPT. Και ο Miles Brundage, πρώην επικεφαλής έρευνας πολιτικής, έχει δηλώσει ότι μετά από ένα σημείο έγινε «δύσκολο» να δημοσιεύει έρευνα για θέματα που θεωρούσε κρίσιμα.

Όλα αυτά συνθέτουν την εικόνα μιας εταιρείας που βρίσκεται πλέον στο σταυροδρόμι μεταξύ ερευνητικού ιδεαλισμού και εταιρικής ισχύος – και που καλείται να αποφασίσει αν η κριτική γνώση για τις επιπτώσεις της AI μπορεί να συνυπάρξει με τις φιλοδοξίες ενός παγκόσμιου τεχνολογικού κολοσσού.