Ο AI agent δημιουργεί κρυφά προφίλ για την οικογένεια και τους φίλους σας

Σύνοψη

• Ο νέος AI agent της Meta συλλέγει και ανανεώνει συνεχώς λεπτομερή δεδομένα για τους ανθρώπους στη ζωή του εκάστοτε χρήστη, ανεξάρτητα από το αν οι ίδιοι χρησιμοποιούν την εφαρμογή ή όχι.
• Ανεξάρτητοι ερευνητές ασφαλείας, όπως ο Karan Joshi, καθώς και ο οργανισμός The Future Society, ανακάλυψαν εντολές του συστήματος που καθοδηγούν το Muse να δημιουργεί αυτοματοποιημένα «σελίδες σχέσεων» για κάθε επαφή, καταγράφοντας ορόσημα, συζητήσεις, βαθμό οικειότητας και μελλοντικούς στόχους.
• Το σύστημα της Meta αντιμετωπίζει ήδη σημαντικές προκλήσεις, με την Amazon να μπλοκάρει την πρόσβαση του στην πλατφόρμα της για λόγους ασφαλείας και τους προγραμματιστές να μπαλώνουν πρόσφατα μια ευπάθεια zero-day στην έκδοση για υπολογιστές Mac.
• Αν και η εταιρεία υποστηρίζει ότι όλα τα δεδομένα παραμένουν απομονωμένα σε κρυπτογραφημένες εικονικές μηχανές (virtual machines) προκειμένου ο πράκτορας να κατανοεί το απαραίτητο κοινωνικό πλαίσιο, η προσέγγιση αυτή εγείρει τεράστια νομικά ζητήματα γύρω από την ευρωπαϊκή νομοθεσία περί προστασίας προσωπικών δεδομένων (GDPR) και την έλευση της υπηρεσίας στην ευρωπαϊκή αγορά.

Η πρεμιέρα του Meta Muse τον περασμένο μήνα έφερε στο προσκήνιο έναν από τους πιο προηγμένους ψηφιακούς βοηθούς της αγοράς, ο οποίος σχεδιάστηκε να αναλαμβάνει πολύπλοκες εργασίες όπως η αποστολή email, ο προγραμματισμός ταξιδιών και η διαχείριση ηλεκτρονικών αγορών. Καθώς το λογισμικό της εταιρείας αναρριχάται στις πρώτες θέσεις των δωρεάν εφαρμογών του αμερικανικού App Store, ανεξάρτητοι ερευνητές άρχισαν να αναλύουν τον κώδικα και τη συμπεριφορά του, αποκαλύπτοντας μια εξαιρετικά επιθετική προσέγγιση απέναντι στη συλλογή πληροφοριών που δεν αφορούν αποκλειστικά τον χρήστη, αλλά εκτείνονται σε ολόκληρο τον κοινωνικό του περίγυρο. Η διαρκής χαρτογράφηση των ανθρώπινων δικτύων μέσω τεχνητής νοημοσύνης δημιουργεί τεράστια ερωτηματικά γύρω από το κατά πόσο συναινούμε εν αγνοία μας στην πλήρη ψηφιακή μας καταγραφή από εφαρμογές που χειρίζονται τρίτοι.

Τι ακριβώς κάνει το Meta Muse με τα δεδομένα των φίλων σας;

Το Meta Muse λειτουργεί ως προσωπικός ψηφιακός πράκτορας που σαρώνει ωριαία τις αλληλεπιδράσεις του χρήστη για να δημιουργήσει δυναμικές «σελίδες σχέσεων» για κάθε άτομο του περιβάλλοντός του. Καταγράφει ονόματα, βαθμό οικειότητας, σημαντικές ημερομηνίες και μελλοντικούς στόχους, προκειμένου να κατανοεί το ευρύτερο πλαίσιο της ζωής του κατόχου όπως θα έκανε ένας στενός ανθρώπινος φίλος, ανεξάρτητα από το αν οι επαφές έχουν δώσει τη συγκατάθεσή τους.

• Αδιάκοπη ενημέρωση αρχείων: Μια προγραμματισμένη ωριαία ρουτίνα αναλύει τα νέα δεδομένα για να ανανεώσει το προφίλ κάθε προσώπου που αλληλεπιδρά με τον χρήστη μέσω μηνυμάτων ή αναφορών.
• Καταγραφή ιστορικού συμπεριφορών: Το λογισμικό δεν κρατά απλώς ονόματα, αλλά ερμηνεύει τους λόγους για τους οποίους υφίσταται η σχέση και ποιες φαίνεται να είναι οι τρέχουσες ανάγκες της.
• Συλλογή θεματικών μοτίβων: Το εργαλείο εντοπίζει επαναλαμβανόμενες συζητήσεις, όπως την οργάνωση μιας μετακόμισης, ένα πρόβλημα υγείας ή τον προγραμματισμό κοινών οικονομικών στόχων.
• Αποθήκευση σε τοπικό επίπεδο: Η Meta διατείνεται ότι η επεξεργασία λαμβάνει χώρα αποκλειστικά εντός μιας κλειστής εικονικής μηχανής (Virtual Machine) που αποτρέπει θεωρητικά τη διαρροή προς άλλους χρήστες.

Οι ανακαλύψεις των ερευνητών και οι τεχνικές Prompt Injection

Σχεδόν έναν μήνα μετά την επίσημη διάθεση της εφαρμογής, ο ερευνητής ασφάλειας και προστασίας συστημάτων τεχνητής νοημοσύνης Karan Joshi κατάφερε να αποσπάσει εσωτερικές εντολές του συστήματος απευθείας μέσα από τη διεπαφή συνομιλίας του Muse. Χρησιμοποιώντας τεχνικές αλληλεπίδρασης που παρακάμπτουν τους επιφανειακούς περιορισμούς, ο ερευνητής απέκτησε πρόσβαση σε αρχεία συστήματος που αποδεικνύουν πως ο αλγόριθμος καθοδηγείται ρητά να χαρτογραφεί την ανθρώπινη συμπεριφορά και τις διαπροσωπικές σχέσεις. Στη συνέχεια, ο οργανισμός The Future Society εξέτασε ένα εξαγόμενο αντίγραφο της εικονικής μηχανής του Muse, επιβεβαιώνοντας πλήρως πως υπάρχουν εκτεταμένες εντολές για την ανάλυση του ιστορικού κάθε σχέσης, την αξιολόγηση της οικειότητας και την κατανόηση του πυρήνα πάνω στον οποίο χτίζεται μια φιλία ή μια επαγγελματική συνεργασία.

Η λογική πίσω από αυτή τη βαθιά ανάλυση βασίζεται στην απαίτηση των σύγχρονων παραγωγικών μοντέλων να διαθέτουν όσο το δυνατόν μεγαλύτερο πλαίσιο (context) προκειμένου να εκτελούν σωστά τις πολύπλοκες εντολές των χρηστών. Εκπρόσωπος της Meta διευκρίνισε ότι για να είναι ένας AI πράκτορας πραγματικά χρήσιμος, πρέπει να γνωρίζει ότι το άτομο που μόλις σας έστειλε ένα τιμολόγιο είναι ο υδραυλικός που επισκεύασε το μπάνιο σας πριν από μήνες, ή να θυμάται ποια ακριβώς λουλούδια προτιμά ο/η σύζυγός σας για την επέτειο σας. Αν και η τεχνική εξήγηση βγάζει νόημα από μηχανικής άποψης, η αυτοματοποιημένη πρακτική καταγραφής αναδεικνύει μια τεράστια ηθική διάσταση σχετικά με το ποιος ελέγχει την ιδιωτικότητα όσων δεν έχουν καμία απολύτως σχέση με το οικοσύστημα της εταιρείας.

Ζητήματα κυβερνοασφάλειας και η απροσδόκητη εμπλοκή με την Amazon

Παρά τις συνεχείς διαβεβαιώσεις της Meta για τα υψηλά πρότυπα κρυπτογράφησης, η πορεία του Muse εμφάνισε ήδη σοβαρά τεχνικά και επιχειρηματικά εμπόδια. Η απόφαση της Amazon να μπλοκάρει τις αυτοματοποιημένες αγορές μέσω της πλατφόρμας της ανέδειξε τη δυσπιστία μεγάλων παικτών της αγοράς απέναντι στους ενσωματωμένους AI πράκτορες. Η άρνηση συνεργασίας προέκυψε διότι η κατασκευάστρια εταιρεία απέτυχε να ειδοποιήσει εγκαίρως το ηλεκτρονικό κατάστημα για την πρόσβαση του αυτόνομου πράκτορα, δημιουργώντας με αυτόν τον τρόπο εύλογες ανησυχίες σχετικά με τη διαχείριση των κωδικών πρόσβασης και των ευαίσθητων δεδομένων χρέωσης των ανυποψίαστων πελατών.

Παράλληλα, η ομάδα ανάπτυξης του Meta Muse αναγκάστηκε να κυκλοφορήσει μια επείγουσα ενημέρωση λογισμικού προκειμένου να διορθώσει μια κρίσιμη ευπάθεια μηδενικής ημέρας (zero-day) που εντοπίστηκε στην έκδοση του Muse για το λειτουργικό σύστημα macOS της Apple. Το σοβαρό κενό ασφαλείας του κώδικα επέτρεπε σε κακόβουλο λογισμικό που ενδεχομένως εκτελούνταν ήδη στον υπολογιστή του θύματος να καταλάβει πλήρως τον έλεγχο του ψηφιακού πράκτορα, εκμεταλλευόμενο τα εκτεταμένα δικαιώματα πρόσβασης που του είχε παραχωρήσει ο αρχικός χρήστης για να διαχειρίζεται τα τοπικά αρχεία και τους ευαίσθητους λογαριασμούς του.

Οι επιπτώσεις για την ευρωπαϊκή και την ελληνική αγορά

Η άφιξη της προηγμένης τεχνολογίας προς την ευρωπαϊκή ήπειρο αναμένεται να αποτελέσει ίσως το μεγαλύτερο πεδίο νομικής σύγκρουσης των τελευταίων ετών, με τον Γενικό Κανονισμό Προστασίας Δεδομένων (GDPR) και την αυστηρή νομοθεσία AI Act να λειτουργούν ως αδιαπέραστα αναχώματα. Στην Ελλάδα, η συλλογή προσωπικών δεδομένων ατόμων χωρίς τη ρητή συγκατάθεση τους παραβιάζει θεμελιώδεις κανόνες ιδιωτικότητας και εθνικής νομοθεσίας. Ένα λογισμικό το οποίο δημιουργεί κρυφά προφίλ για φίλους, συγγενείς και συνεργάτες θα βρεθεί άμεσα στο στόχαστρο των ρυθμιστικών αρχών προστασίας δεδομένων. 

Εάν η Meta επιθυμεί να διαθέσει επίσημα το Muse στους Ευρωπαίους καταναλωτές διατηρώντας ακέραιες όλες τις λειτουργίες του, θα χρειαστεί να αποδείξει νομικά ότι η τοπική αποθήκευση επαρκεί για να υπερκεράσει την έλλειψη συγκατάθεσης των τρίτων προσώπων, κάτι που φαντάζει ιδιαίτερα δύσκολο με τα τρέχοντα ευρωπαϊκά δεδομένα.