Παγκόσμια διάθεση του ανιχνευτή AI εικόνων, βίντεο και ήχου

Σύνοψη 

• Η Google καθιστά διαθέσιμο σε παγκόσμιο επίπεδο το SynthID Detector, μια διαδικτυακή πλατφόρμα που επιτρέπει στον καθένα να ελέγξει δωρεάν εάν ένα ψηφιακό αρχείο έχει δημιουργηθεί μέσω τεχνητής νοημοσύνης.
• Το εργαλείο αναγνωρίζει κρυφά υδατογραφήματα σε εικόνες, βίντεο και ήχο από παραγωγικά μοντέλα της Google, της OpenAI, της NVIDIA, της Kakao, ενώ σύντομα θα προστεθεί και η υποστήριξη για την Apple.
• Η τεχνολογία έχει ήδη εφαρμόσει ψηφιακές υπογραφές σε περισσότερες από 180 δισεκατομμύρια εικόνες και βίντεο από το 2023, διατηρώντας την αντοχή της απέναντι σε επεξεργασίες όπως η περικοπή (cropping) και η συμπίεση αρχείων.
• Παρά τις προηγμένες δυνατότητες, το σύστημα φέρει περιορισμούς, καθώς δεν μπορεί να εντοπίσει περιεχόμενο από μοντέλα που δεν ακολουθούν το συγκεκριμένο πρότυπο, ενώ επιβάλλει ένα όριο περίπου δέκα ελέγχων ανά ημέρα για τους χρήστες.

Η αλματώδης εξέλιξη των εργαλείων παραγωγικής τεχνητής νοημοσύνης έχει δυσχεράνει σε τεράστιο βαθμό τον διαχωρισμό του αυθεντικού περιεχομένου από το συνθετικό, δημιουργώντας ένα εξαιρετικά θολό τοπίο για τον μέσο χρήστη του διαδικτύου. Θέλοντας να προσφέρει μια ξεκάθαρη και αξιόπιστη λύση απέναντι στην παραπληροφόρηση και τα deepfakes, η Google ανακοίνωσε την ευρεία, παγκόσμια διάθεση του SynthID Detector. 

Η πρωτοβουλία της ομάδας Google DeepMind δεν απευθύνεται πλέον αποκλειστικά σε δημοσιογράφους και ακαδημαϊκούς ερευνητές, αλλά προσφέρει μέσω ενός αυτόνομου ιστοτόπου τη δυνατότητα σε κάθε ενδιαφερόμενο να επαληθεύσει τη γνησιότητα των ψηφιακών αρχείων που συναντά στην καθημερινότητά του, υποστηρίζοντας συστήματα τεράστιων τεχνολογικών κολοσσών.

Τι είναι το Google SynthID Detector και πώς ακριβώς λειτουργεί;

Το Google SynthID Detector αποτελεί μια διαδικτυακή πλατφόρμα δωρεάν πρόσβασης (synthid.com) η οποία αναλαμβάνει να ελέγξει αν εικόνες, βίντεο και ηχητικά αρχεία περιέχουν το αόρατο υδατογράφημα δημιουργίας μέσω τεχνητής νοημοσύνης. Αναγνωρίζει κρυπτογραφημένα σήματα από παραγωγικά μοντέλα της Google, της OpenAI, της NVIDIA, της Kakao, με την Apple να ακολουθεί σύντομα, προσφέροντας αποτελέσματα επιβεβαίωσης σε ελάχιστα δευτερόλεπτα.

Κύρια χαρακτηριστικά

• Υποστηριζόμενοι τύποι αρχείων: Δέχεται εικόνες μορφής JPG, PNG, WEBP, HEIC, βίντεο MP4, MOV, WEBM και αρχεία ήχου WAV, MP3, OGG, FLAC, M4A.
• Διαδικασία ταυτοποίησης: Απαιτείται η σύνδεση του χρήστη με ενεργό λογαριασμό Google, OpenAI ή Apple για την πρόσβαση στο περιβάλλον ανάλυσης.
• Όριο ημερήσιας χρήσης: Η υπηρεσία περιορίζει τις σαρώσεις σε περίπου δέκα αιτήματα ανά εικοσιτετράωρο για να αποφευχθεί η αυτοματοποιημένη υπερφόρτωση (scraping) του συστήματος.
• Πολιτική απορρήτου: Όλα τα αρχεία που μεταφορτώνονται διαγράφονται άμεσα μετά την παραγωγή του αποτελέσματος, ενώ διατηρείται μόνο ένα κρυπτογραφημένο ίχνος για 24 ώρες ώστε να ελέγχεται το όριο χρήσης.

Ο τεράστιος όγκος δεδομένων και η τεχνική ανθεκτικότητα του SynthID

Από την πρώτη ημέρα της πιλοτικής του εφαρμογής το 2023, η τεχνολογία υδατογράφησης της Google έχει εφαρμοστεί σε μια ασύλληπτη ποσότητα δεδομένων, επιβεβαιώνοντας την κλίμακα στην οποία παράγεται πλέον το συνθετικό περιεχόμενο παγκοσμίως. Μέχρι σήμερα, περισσότερες από 180 δισεκατομμύρια εικόνες και βίντεο φέρουν την κρυφή σφραγίδα του SynthID, ενώ το αντίστοιχο νούμερο για τον παραγόμενο ήχο αγγίζει τα 240.000 χρόνια διαρκούς αναπαραγωγής. Τα ενσωματωμένα εργαλεία επαλήθευσης που υπάρχουν ήδη μέσα στην εφαρμογή Gemini, στον browser Chrome και στο Google Search, διαχειρίζονται καθημερινά περισσότερα από ένα εκατομμύριο αιτήματα ταυτοποίησης.

Ο πυρήνας της καινοτομίας εστιάζεται στον τρόπο με τον οποίο το σήμα εμφυτεύεται στο μέσο χωρίς να αλλοιώνει την ποιότητα του. Όταν αναφερόμαστε σε οπτικό υλικό (εικόνες και βίντεο), το αόρατο ψηφιακό υδατογράφημα διασπείρεται άμεσα στα pixels κατά τη στιγμή ακριβώς της δημιουργίας. Αντί να τοποθετηθεί μια απλή ετικέτα στα μεταδεδομένα (metadata) του αρχείου, η οποία διαγράφεται με εξαιρετική ευκολία, η μέθοδος της Google DeepMind ενσωματώνει το σήμα στον ίδιο τον κορμό του αρχείου, καθιστώντας το ανθεκτικό σε βαριές τροποποιήσεις όπως η επιθετική περικοπή (cropping), η χρήση χρωματικών φίλτρων, η αλλαγή της ταχύτητας των καρέ και η συμπίεση χαμηλής ποιότητας. 

Όσον αφορά τον ήχο, ο οποίος προέρχεται κυρίως από μοντέλα όπως το Lyria ή το εργαλείο podcast του NotebookLM, το SynthID μετατρέπει το ηχητικό κύμα σε φασματογράφημα και προσθέτει συχνότητες τις οποίες το ανθρώπινο αυτί δεν μπορεί να αντιληφθεί. Το αποτέλεσμα παραμένει άθικτο ακόμη και αν κάποιος προσθέσει θόρυβο (noise) ή μεταβάλλει σημαντικά την ταχύτητα αναπαραγωγής του κομματιού.

Τι υποδηλώνει ένα αρνητικό αποτέλεσμα από τον ανιχνευτή;

Ένα αρνητικό αποτέλεσμα στον ανιχνευτή του SynthID υποδεικνύει αποκλειστικά την απουσία του συγκεκριμένου ψηφιακού υδατογραφήματος, χωρίς να αποτελεί εγγύηση ότι το περιεχόμενο δημιουργήθηκε πραγματικά από ανθρώπινο χέρι. Αρχεία που έχουν παραχθεί από ανοιχτού κώδικα συστήματα τεχνητής νοημοσύνης εκτός του οικοσυστήματος των συνεργαζόμενων εταιρειών, θα εμφανιστούν ως καθαρά, ενώ οι εξαιρετικά επιθετικές τροποποιήσεις μπορούν περιστασιακά να καταστρέψουν το αποθηκευμένο σήμα.

Η εταιρεία τονίζει ξεκάθαρα προς το κοινό πως ο ανιχνευτής βρίσκει μόνο αυτό που έχει προγραμματιστεί να αναζητά. Η τεράστια αγορά της παραγωγικής νοημοσύνης κατακλύζεται από εκατοντάδες πλατφόρμες, οι οποίες αρνούνται να υιοθετήσουν κοινά πρότυπα διαφάνειας, χρησιμοποιώντας εναλλακτικές μεθόδους υπογραφής ή επιλέγοντας να μην εφαρμόσουν καμία απολύτως σήμανση στα προϊόντα τους. Παράλληλα, το εργαλείο επιστρέφει ως απάντηση μόνο την ανίχνευση του υδατογραφήματος, χωρίς να εξηγεί στον χρήστη αν ολόκληρη η εικόνα φτιάχτηκε από το μηδέν μέσω οδηγιών (prompts) ή αν πρόκειται για μια αυθεντική φωτογραφία την οποία κάποιος επεξεργάστηκε ελαφρώς με εργαλεία τεχνητής νοημοσύνης (όπως το Magic Eraser).

Η ενσωμάτωση του SynthID Text και η στρατηγική του ανοιχτού κώδικα

Αν η υδατογράφηση εικόνων φαντάζει τεχνικά πολύπλοκη, η σήμανση παραγόμενου κειμένου θεωρείται ίσως η μεγαλύτερη πρόκληση για την κοινότητα των προγραμματιστών, καθώς δεν υπάρχουν διαθέσιμα pixels για να «κρυφτούν» πληροφορίες. Η αρχιτεκτονική του SynthID Text επιλύει το πρόβλημα παρεμβαίνοντας την ώρα που το Μεγάλο Γλωσσικό Μοντέλο (LLM) υπολογίζει την επόμενη λέξη προς παραγωγή (token). Προσαρμόζοντας ελαφρώς τις πιθανότητες εμφάνισης ορισμένων λέξεων με βάση ένα ψευδοτυχαίο μοτίβο, το σύστημα δημιουργεί μια μοναδική στατιστική υπογραφή η οποία παραμένει ανιχνεύσιμη, διατηρώντας ακέραια την ποιότητα, τη συντακτική ορθότητα και την ταχύτητα του παραγόμενου λόγου. 

Η Google αποφάσισε να διαθέσει την τεχνολογία του SynthID Text με άδεια ανοιχτού κώδικα (open-source) μέσω της πλατφόρμας Hugging Face, ενθαρρύνοντας τρίτους κατασκευαστές και ανεξάρτητους ερευνητές να την ενσωματώσουν στα δικά τους συστήματα χωρίς κανένα κόστος, βελτιώνοντας το γενικότερο επίπεδο διαφάνειας στο διαδίκτυο.