Η τεχνολογία textGrain και οι περιορισμοί της

Σύνοψη

• Η OpenAI προχωρά στην ενσωμάτωση ενός αόρατου στατιστικού υδατογραφήματος με την ονομασία textGrain, το οποίο θα εφαρμόζεται σταδιακά στις απαντήσεις των χρηστών του ChatGPT και του Codex εντός της Ευρωπαϊκής Ένωσης.
• Η συγκεκριμένη τεχνική παρέμβαση αποτελεί άμεση απόρροια των κανονιστικών απαιτήσεων που θέτει το ευρωπαϊκό πλαίσιο AI Act σχετικά με τη διαφάνεια και την ιχνηλασιμότητα του περιεχομένου που παράγεται από συστήματα τεχνητής νοημοσύνης.
• Η πρόσβαση στο εργαλείο ανίχνευσης αυτού του υδατογραφήματος παραμένει αυστηρά ελεγχόμενη και διατίθεται αρχικά μόνο σε εγκεκριμένους ερευνητικούς οργανισμούς, προκειμένου να αποφευχθούν τα λανθασμένα συμπεράσματα από το ευρύ κοινό.
• Η αποτελεσματικότητα της μεθόδου μειώνεται δραματικά όταν το παραγόμενο κείμενο είναι μικρότερο από διακόσια tokens ή όταν ο χρήστης αντικαταστήσει χειροκίνητα ένα μικρό ποσοστό των λέξεων με συνώνυμα.

Η OpenAI προχώρησε στην ανακοίνωση της σταδιακής ενσωμάτωσης ενός αόρατου υδατογραφήματος για τα κείμενα που παράγονται μέσω των εργαλείων της. Η απόφαση αυτή επικεντρώνεται αποκλειστικά στους χρήστες που βρίσκονται στην Ευρωπαϊκή Ένωση και αφορά μοντέλα που τροφοδοτούν το ευρέως διαδεδομένο ChatGPT, καθώς και το προγραμματιστικό εργαλείο Codex. Η εταιρεία υιοθετεί μια εξαιρετικά προσεκτική στρατηγική διάθεσης, υπογραμμίζοντας τις εγγενείς τεχνικές δυσκολίες που συνοδεύουν την ανίχνευση κειμένου σε σύγκριση με την πολύ πιο αξιόπιστη ιχνηλασιμότητα της εικόνας ή του ήχου.

Πώς λειτουργεί το υδατογράφημα κειμένου στο ChatGPT;

Η τεχνολογία textGrain της OpenAI ενσωματώνει ένα αόρατο στατιστικό σήμα κατά την επιλογή των λέξεων από το μοντέλο. Παρότι η διαδικασία δεν επηρεάζει την ποιότητα του παραγόμενου κειμένου, το ειδικό εργαλείο ανίχνευσης παραμένει κλειστό για το ευρύ κοινό και διατίθεται μόνο σε ερευνητές, καθώς η ακρίβεια πέφτει αισθητά σε μικρά κείμενα ή μαθηματικά προβλήματα.

Η υποκείμενη αρχιτεκτονική του textGrain βασίζεται στην ελαφρά αλλοίωση των πιθανοτήτων επιλογής κατά τη διαδικασία πρόβλεψης του επόμενου token (δηλαδή της επόμενης λέξης ή τμήματος λέξης), δημιουργώντας ένα μοτίβο το οποίο παραμένει απόλυτα αόρατο στον τελικό αναγνώστη, αλλά μπορεί να εντοπιστεί από τον ειδικό αλγόριθμο της εταιρείας. Οι εσωτερικές μετρήσεις της OpenAI έχουν καταδείξει ότι η στατιστική παρέμβαση δεν επιφέρει καμία απολύτως υποβάθμιση στην ποιότητα των παραγόμενων κειμένων, γεγονός που επιβεβαιώνεται από τη σταθερότητα των επιδόσεων στο προηγμένο μοντέλο Astra. 

Στα σχετικά τεστ, οι διαφορές στις βαθμολογίες μεταξύ υδατογραφημένων και μη υδατογραφημένων απαντήσεων κυμαίνονται σε αμελητέα επίπεδα κάτω της μισής ποσοστιαίας μονάδας σε όλους τους τομείς αξιολόγησης (όπως το Artificial Analysis Intelligence Index ή το GPQA Diamond). Παράλληλα, ενώ το χαρακτηριστικό αυτό καθίσταται σταδιακά προεπιλεγμένο για όλους τους τελικούς χρήστες των ChatGPT και Codex στην Ευρώπη, οι πελάτες που αξιοποιούν το API της εταιρείας σε παγκόσμιο επίπεδο διατηρούν το δικαίωμα προαιρετικής ενεργοποίησης (opt-in), έχοντας τον πλήρη έλεγχο της διαφάνειας που επιθυμούν να προσφέρουν στις δικές τους ψηφιακές πλατφόρμες.

Οι περιορισμοί του textGrain και η ευκολία παραβίασης

Παρά την τεχνολογική αρτιότητα που χαρακτηρίζει τη θεωρητική σύλληψη του textGrain, οι μηχανικοί της OpenAI παραδέχονται ανοιχτά ότι η πρακτική εφαρμογή του συνοδεύεται από σημαντικούς περιορισμούς, καθιστώντας την ανίχνευση του παραγόμενου κειμένου μια ιδιαίτερα ευάλωτη διαδικασία. Η αποτελεσματικότητα του ανιχνευτή εξαρτάται άμεσα από το μήκος της απάντησης και από τον βαθμό ελευθερίας που έχει το μοντέλο να επιλέξει διαφορετικές λέξεις προκειμένου να κατασκευάσει τις προτάσεις του. 

Για παράδειγμα, ενώ ο αλγόριθμος μπορεί να αναγνωρίσει με ποσοστό επιτυχίας άνω του 95% ένα θεωρητικό κείμενο ψυχολογίας που εκτείνεται στις 400 λέξεις (tokens), το αντίστοιχο ποσοστό πέφτει κοντά στο 80% όταν το κείμενο περιορίζεται στα 200 tokens. Η κατάσταση καθίσταται ακόμη πιο περίπλοκη σε θεματικές ενότητες όπως τα μαθηματικά ή ο προγραμματισμός, όπου η αυστηρή ορολογία, ο σταθερός συντακτικός κώδικας και η απουσία συνωνύμων δεν επιτρέπουν την ενσωμάτωση του στατιστικού σήματος με την ίδια ευκολία, οδηγώντας σε δραματική πτώση των ποσοστών επιτυχούς ανίχνευσης.

Η μεγαλύτερη αδυναμία ωστόσο εντοπίζεται στην ανθεκτικότητα του υδατογραφήματος απέναντι στην ανθρώπινη επεξεργασία και τη σκόπιμη αλλοίωση του κειμένου. Τα δεδομένα της OpenAI αποκαλύπτουν ότι αρκεί η αντικατάσταση μόλις του 10% των λέξεων ενός κειμένου με συνώνυμα για να μειωθεί η αξιοπιστία της ανίχνευσης από το 92% στο 66%. Εάν ο χρήστης προχωρήσει σε εκτενέστερη επεξεργασία, αντικαθιστώντας το 25% των λέξεων, το ποσοστό επιτυχίας κατακρημνίζεται στο 17%, καθιστώντας τον εντοπισμό πρακτικά αδύνατο. Η εξαιρετική ευπάθεια της μεθόδου αποτελεί τον κύριο λόγο για τον οποίο η εταιρεία αρνείται κατηγορηματικά να διαθέσει το εργαλείο ελέγχου στο ευρύ κοινό, επιλέγοντας αντίθετα να το προσφέρει επιλεκτικά σε εξειδικευμένους ερευνητές που μπορούν να αξιολογήσουν τα αποτελέσματα κατανοώντας την ύπαρξη των ψευδώς θετικών και ψευδώς αρνητικών μετρήσεων.

Η ευρύτερη στρατηγική ιχνηλασιμότητας και οι διαφορές με τα πολυμέσα

Η ανίχνευση του γραπτού λόγου αποτελεί μόλις ένα τμήμα της ευρύτερης στρατηγικής που αναπτύσσει η OpenAI στον τομέα της ιχνηλασιμότητας περιεχομένου, ο οποίος περιλαμβάνει τη στενή συνεργασία με οργανισμούς ανοιχτών προτύπων και τη συνδυαστική χρήση διαφορετικών τεχνολογιών. Η εταιρεία έχει ήδη προχωρήσει στην υιοθέτηση των λεγόμενων Content Credentials για τις εικόνες που παράγονται από τα συστήματσ της, διασφαλίζοντας την πλήρη συμμόρφωση με τις τεχνικές προδιαγραφές του πρωτοκόλλου C2PA. Σε αυτό το πλαίσιο, τα υδατογραφήματα τύπου SynthID ενσωματώνονται απρόσκοπτα τόσο σε αρχεία εικόνας όσο και σε αρχεία ήχου, προσφέροντας ισχυρές ενδείξεις προέλευσης ακόμα και όταν τα μεταδεδομένα αφαιρούνται σκόπιμα από τους χρήστες ή τις πλατφόρμες φιλοξενίας.

Η θεμελιώδης διαφορά που καθιστά το κείμενο έναν άλυτο γρίφο, έγκειται στην ευκολία με την οποία μπορεί να παραποιηθεί χωρίς να απαιτούνται εξειδικευμένες τεχνικές γνώσεις. Σε αντίθεση με μια φωτογραφία ή ένα ηχητικό απόσπασμα, τα οποία απαιτούν εξειδικευμένο λογισμικό επεξεργασίας για να αλλοιωθούν πειστικά, το παραγόμενο κείμενο μπορεί άμεσα να μεταφραστεί σε μια άλλη γλώσσα, να αναδιαταχθεί συντακτικά, ή απλώς να παραφραστεί από τον άνθρωπο μέσα σε ελάχιστα δευτερόλεπτα. Αυτή η ασύμμετρη ευελιξία του γραπτού λόγου αναγκάζει τους μηχανικούς της OpenAI να προσαρμόζουν διαρκώς τις μεθόδους τους, εστιάζοντας στη διάκριση μεταξύ της αποκλειστικής δημιουργίας ενός κειμένου από τεχνητή νοημοσύνη (AI authorship) και της απλής υποβοήθησης ενός ανθρώπου (AI assistance).

Τι δεν προσφέρει το νέο σύστημα ελέγχου προέλευσης

Η κατανόηση της πραγματικής χρησιμότητας του νέου υδατογραφήματος απαιτεί τη σαφή αποσαφήνιση του τι ακριβώς μπορεί και τι δεν μπορεί να υποδείξει η ανίχνευσή του. Σύμφωνα με την εκτενή αναφορά της OpenAI, η επιβεβαίωση ύπαρξης του στατιστικού σήματος πιστοποιεί αποκλειστικά ότι κάποιο σύστημα της εταιρείας συμμετείχε στη δημιουργία ή την επεξεργασία του κειμένου, χωρίς να παρέχει καμία απολύτως πληροφορία για το ποσοστό της ανθρώπινης παρέμβασης ή δημιουργικότητας που έχει προστεθεί στο τελικό αποτέλεσμα. Επιπλέον, ο μηχανισμός δεν έχει τη δυνατότητα να ταυτοποιήσει τον τελικό χρήστη, τον οργανισμό ή τον συγκεκριμένο λογαριασμό που παρήγαγε το υλικό, αποτρέποντας τη σύνδεση του κειμένου με συγκεκριμένα πρόσωπα, ιδιωτικά prompts ή ιστορικό συνομιλιών.

Ταυτόχρονα, το υδατογράφημα δεν αποτελεί εργαλείο επαλήθευσης της ακρίβειας ή της εγκυρότητας των πληροφοριών που περιέχονται στο κείμενο, ούτε μπορεί να καθορίσει το καθεστώς πνευματικών δικαιωμάτων και νομικής ιδιοκτησίας. Είναι επίσης εξαιρετικά σημαντικό να σημειωθεί ότι η απουσία του υδατογραφήματος δεν λειτουργεί ως αδιάσειστο αποδεικτικό στοιχείο ανθρώπινης συγγραφής, καθώς το κείμενο ενδέχεται να έχει μεταφραστεί, να έχει αναδιατυπωθεί ριζικά ή απλώς να έχει παραχθεί από συστήματα τεχνητής νοημοσύνης ανταγωνιστικών εταιρειών.