Το νέο AI εργαλείο δημιουργεί εικόνες χρησιμοποιώντας το Instagram προφίλ σας

Σύνοψη

• Η Meta παρουσίασε το Muse, ένα νέο προηγμένο μοντέλο τεχνητής νοημοσύνης για την παραγωγή εικόνων και βίντεο από κείμενο.
• Η πιο αμφιλεγόμενη λειτουργία επιτρέπει στους χρήστες να εισάγουν ένα δημόσιο λογαριασμό Instagram ως prompt, αντιγράφοντας την αισθητική και τα πρόσωπα.
• Σημαντικό: Όλοι οι χρήστες με δημόσια προφίλ είναι αυτόματα εγγεγραμμένοι (opted-in) σε αυτή τη λειτουργία, χωρίς να έχουν δώσει ρητή άδεια.
• Για την εξαίρεσή τους, οι χρήστες πρέπει να αναζητήσουν την κρυμμένη επιλογή “opt-out” στις ρυθμίσεις της εφαρμογής.
• Η Meta κυκλοφόρησε παράλληλα ένα εργαλείο ανίχνευσης συνθετικού υλικού για τον περιορισμό της παραπληροφόρησης.

Η ανάπτυξη παραγωγικών μοντέλων τεχνητής νοημοσύνης αποκτά νέες, σαφώς πιο προσωπικές διαστάσεις. Η Meta, μέσω του ερευνητικού της τμήματος Superintelligence Labs, ανακοίνωσε επίσημα την κυκλοφορία του Muse, του νεότερου και ισχυρότερου μοντέλου παραγωγής εικόνας και βίντεο της εταιρείας. Αν και η τεχνολογική βάση του συστήματος εντυπωσιάζει με την αληθοφάνεια των αποτελεσμάτων του, η μέθοδος ενσωμάτωσής του στο ευρύτερο οικοσύστημα της εταιρείας εγείρει σοβαρά ερωτήματα σχετικά με την προστασία των προσωπικών δεδομένων.

Τι είναι το Meta Muse και η λειτουργία Profile as a Prompt

Το Meta Muse είναι το νέο παραγωγικό AI μοντέλο της Meta που δημιουργεί υψηλής ανάλυσης εικόνες και βίντεο. Η ειδοποιός διαφορά του είναι η δυνατότητα χρήσης ολόκληρων δημόσιων λογαριασμών Instagram ως κατευθυντήρια γραμμή (prompt), επιτρέποντας στην τεχνητή νοημοσύνη να αναλύει, να μαθαίνει και να αναπαράγει με ακρίβεια το εικαστικό στυλ, το περιβάλλον ή ακόμα και τα πρόσωπα των χρηστών.

Η λειτουργία του μοντέλου ξεφεύγει από τις παραδοσιακές εντολές κειμένου (text-to-image). Οι προγραμματιστές της Meta ανέπτυξαν μια αρχιτεκτονική που επιτρέπει στο Muse να «διαβάζει» το grid ενός λογαριασμού στο Instagram και να το χρησιμοποιεί ως ένα δυναμικό mood board. Αυτό σημαίνει ότι ο χρήστης του εργαλείου δεν χρειάζεται να περιγράψει αναλυτικά το στυλ που επιθυμεί. Μπορεί απλώς να εισάγει το όνομα χρήστη (handle) ενός δημιουργού περιεχομένου, ενός φωτογράφου ή ενός απλού πολίτη με δημόσιο προφίλ, και η AI θα συνθέσει νέες εικόνες που μοιάζουν σαν να δημιουργήθηκαν ή να απεικονίζουν το συγκεκριμένο άτομο.

Τα τεχνικά χαρακτηριστικά του Muse δείχνουν σημαντική βελτίωση στην κατανόηση του φωτισμού, της υφής του δέρματος και της χωρικής αντίληψης, καθιστώντας τα αποτελέσματα εξαιρετικά ρεαλιστικά. Ωστόσο, η ευκολία με την οποία ο οποιοσδήποτε μπορεί να οικειοποιηθεί την ψηφιακή ταυτότητα ενός τρίτου, μετατοπίζει τη συζήτηση από τα τεχνικά επιτεύγματα στα ψηφιακά δικαιώματα.

Η παραβίαση της ιδιωτικότητας: Προεπιλεγμένη η χρήση των δεδομένων

Το πιο προβληματικό στοιχείο της νέας προσέγγισης της Meta δεν είναι η τεχνολογία καθαυτή, αλλά ο τρόπος εφαρμογής της. Σύμφωνα με τα επίσημα έγγραφα και τις αναφορές δοκιμαστών, όλοι οι χρήστες του Instagram που διατηρούν “Δημόσιο” προφίλ (Public Accounts) έχουν ενταχθεί αυτόματα (opted-in) στη δεξαμενή δεδομένων που το Muse μπορεί να χρησιμοποιήσει ως αναφορά για παραγωγή περιεχομένου από τρίτους.

Αυτό σημαίνει πως το υλικό, η αισθητική και το πρόσωπο κάθε χρήστη είναι διαθέσιμα στο AI από την πρώτη ημέρα λειτουργίας του συστήματος, χωρίς να έχει προηγηθεί καμία ξεκάθαρη, κατανοητή και ρητή συγκατάθεση. Η Meta επιλέγει ξανά την αμφιλεγόμενη πρακτική να μεταθέτει το βάρος της προστασίας της ιδιωτικότητας στον χρήστη.

Για να προστατεύσει κάποιος το περιεχόμενο του, υποχρεούται να ανακαλύψει την επιλογή εξαίρεσης (opt-out), η οποία παραδοσιακά «θάβεται» βαθιά μέσα στα μενού των ρυθμίσεων απορρήτου της εφαρμογής. Μέχρι τη στιγμή που ο μέσος χρήστης αντιληφθεί την ύπαρξη αυτής της λειτουργίας και προβεί στην απενεργοποίησή της, το προφίλ του μπορεί ήδη να έχει χρησιμοποιηθεί χιλιάδες φορές για την εκπαίδευση του αλγορίθμου ή την παραγωγή εικόνων από αγνώστους.

Η συγκεκριμένη τακτική αποτελεί ευθεία απειλή όχι μόνο για τους επαγγελματίες δημιουργούς, οι οποίοι βλέπουν το μοναδικό τους καλλιτεχνικό αποτύπωμα να αναπαράγεται και να εργαλειοποιείται δωρεάν, αλλά και για τους απλούς χρήστες, οι φωτογραφίες των οποίων μπορούν να παραποιηθούν και να τοποθετηθούν σε εντελώς διαφορετικά ή και κακόβουλα πλαίσια. Η οικειοποίηση ψηφιακής ταυτότητας καθίσταται πλέον μια λειτουργία διαθέσιμη με ένα κλικ.

Εργαλεία ανίχνευσης και αντιμετώπιση deepfakes

Γνωρίζοντας εκ των προτέρων τις αντιδράσεις που θα προκαλέσει η κυκλοφορία του Muse, η Meta ανακοίνωσε παράλληλα τη διάθεση ενός νέου εργαλείου ανίχνευσης συνθετικού περιεχομένου. Το λογισμικό αυτό σχεδιάστηκε για να εντοπίζει αόρατα υδατογραφήματα (invisible watermarking) και μεταδεδομένα (metadata) που υποτίθεται ότι ενσωματώνονται αυτόματα σε κάθε εικόνα ή βίντεο που παράγεται από το νέο μοντέλο.

Στόχος της εταιρείας είναι να διευκολύνει τους ερευνητές, τους δημοσιογράφους και τις αρχές να ξεχωρίζουν το πραγματικό από το τεχνητό, επιχειρώντας να μετριάσει τους φόβους για ανεξέλεγκτη διασπορά παραπληροφόρησης και deepfakes.

Εντούτοις, η κοινότητα της κυβερνοασφάλειας παραμένει εξαιρετικά επιφυλακτική. Τα συστήματα υδατογράφησης συχνά παρακάμπτονται μέσω βασικών τεχνικών επεξεργασίας εικόνας, αλλαγής διαστάσεων ή συμπίεσης αρχείων. Επιπλέον, το εργαλείο ανίχνευσης της Meta εξυπηρετεί ως επί το πλείστον τον έλεγχο εκ των υστέρων. Δεν αποτρέπει τη δημιουργία της παραποιημένης εικόνας, αλλά απλώς προσφέρει μια πιθανότητα ταυτοποίησής της αφότου αυτή έχει ήδη κυκλοφορήσει στο διαδίκτυο και έχει, ενδεχομένως, προκαλέσει ζημιά.