Επιβεβαιώθηκε από την εταιρεία ότι κατέγραφαν κρυφά τους χρήστες

Σύνοψη

• Χρήστες των έξυπνων γυαλιών της Meta ανακάλυψαν στο ιστορικό της εφαρμογής τους ηχογραφήσεις και μεταγραφές κειμένου από καθημερινές συζητήσεις που έγιναν χωρίς την εκφώνηση της φράσης ενεργοποίησης “Hey Meta”.
• Το σφάλμα παρατηρήθηκε σε πολλαπλά μοντέλα δεύτερης και τρίτης γενιάς, παρά το γεγονός ότι η ρύθμιση για απάντηση χωρίς τη φωνητική εντολή ήταν ρητά απενεργοποιημένη από τους κατόχους.
• Η κατασκευάστρια εταιρεία επιβεβαίωσε επίσημα τη δυσλειτουργία και ανακοίνωσε την κυκλοφορία μιας ενημέρωσης λογισμικού που επιλύει το κενό ασφαλείας, επιτρέποντας παράλληλα τη διαγραφή των δεδομένων.
• Αναλυτές και ειδικοί σε θέματα ψηφιακών δικαιωμάτων κρούουν τον κώδωνα του κινδύνου για τα όρια μεταξύ τοπικής επεξεργασίας δεδομένων και μόνιμης καταγραφής από φορετές συσκευές τεχνητής νοημοσύνης, εγείροντας νέα ερωτήματα για τη συμμόρφωση με τους ευρωπαϊκούς κανονισμούς.

Η ενσωμάτωση προηγμένων μοντέλων τεχνητής νοημοσύνης σε καταναλωτικές συσκευές καθημερινής χρήσης δημιουργεί διαρκώς νέες τεχνολογικές προκλήσεις, οι οποίες πολύ συχνά δοκιμάζουν τα όρια της προστασίας των προσωπικών δεδομένων. Τα έξυπνα γυαλιά που αναπτύσσει η Meta σε συνεργασία με την EssilorLuxottica αποτελούν ίσως το πιο επιτυχημένο παράδειγμα εμπορικής εφαρμογής φορετής τεχνολογίας, προσφέροντας έναν απρόσκοπτο συνδυασμό οπτικής αισθητικής και ψηφιακών ευκολιών. Παρά την τεράστια εμπορική τους επιτυχία, ωστόσο, οι συσκευές αυτές βρίσκονται πλέον στο επίκεντρο μιας σοβαρής διαμάχης που αφορά τον τρόπο με τον οποίο διαχειρίζονται τα μικρόφωνα και τις εντολές των χρηστών, αποκαλύπτοντας βαθύτερα αρχιτεκτονικά προβλήματα στη λειτουργία των αλγορίθμων ακρόασης.

Όλα ξεκίνησαν όταν προσεκτικοί κάτοχοι των Ray-Ban Meta άρχισαν να παρατηρούν μια εξαιρετικά ανησυχητική συμπεριφορά κατά τη διάρκεια της απλής, καθημερινής χρήσης των συσκευών τους. Η εσωτερική λυχνία ειδοποιήσεων LED, η οποία κανονικά ανάβει μόνο όταν ο χρήστης αλληλεπιδρά συνειδητά με τον ψηφιακό βοηθό, άρχισε να ενεργοποιείται αυθόρμητα. Ερευνώντας το ιστορικό δραστηριότητας μέσα από τη συνοδευτική εφαρμογή στο smartphone, οι ίδιοι χρήστες ανακάλυψαν εκατοντάδες αρχεία ήχου και πλήρεις μεταγραφές κειμένου από ιδιωτικές συζητήσεις που είχαν διεξαχθεί στο σπίτι, στο γραφείο ή σε δημόσιους χώρους. Το εντυπωσιακό στοιχείο της υπόθεσης είναι πως τα μικρόφωνα κατέγραφαν συνεχώς τον περιβάλλοντα ήχο χωρίς να έχει προηγηθεί η απαραίτητη λέξη αφύπνισης (wake word) και με τη ρύθμιση της συνεχιζόμενης συνομιλίας αυστηρά απενεργοποιημένη.

Καταγράφουν τα Ray-Ban Meta τις συνομιλίες μας χωρίς άδεια;

Η Meta επιβεβαίωσε επίσημα ότι ένα κρίσιμο σφάλμα λογισμικού προκάλεσε την ακούσια ενεργοποίηση των μικροφώνων και την επακόλουθη μεταγραφή ιδιωτικών συνομιλιών, χωρίς την εκφώνηση της εντολής “Hey Meta“. Το τεχνικό πρόβλημα, το οποίο εντοπίστηκε από πολλαπλούς χρήστες σε διαφορετικές γενιές της συσκευής, έχει πλέον επιλυθεί μέσω σχετικής αναβάθμισης firmware, επιτρέποντας την οριστική διαγραφή των ανεπιθύμητων φωνητικών αρχείων.

Η τεχνική διάσταση αυτού του σφάλματος αναδεικνύει την πολυπλοκότητα των συστημάτων ανίχνευσης φωνής χαμηλής κατανάλωσης ενέργειας (low-power wake word engines). Σε μια ιδανική αρχιτεκτονική υλικού, το μικρόφωνο παραμένει σε κατάσταση αναμονής αναλύοντας τον ήχο τοπικά στη μνήμη RAM για την ανίχνευση του “Hey Meta”, απορρίπτοντας κάθε άλλο ηχητικό σήμα σε κλάσματα του δευτερολέπτου. Αυτό σημαίνει πως ο ήχος δεν πρέπει να εγκαταλείπει τη συσκευή ούτε να αποθηκεύεται μόνιμα, μέχρι το τοπικό τσιπ να δώσει το πράσινο φως για τη δημιουργία μιας κρυπτογραφημένης σύνδεσης με τους servers. Η δυσλειτουργία του κώδικα της Meta παρέκαμψε εντελώς αυτή την ασφαλιστική δικλείδα, ανοίγοντας το κανάλι επικοινωνίας με το cloud και στέλνοντας ακατέργαστα ηχητικά δεδομένα στους εξυπηρετητές της εταιρείας σαν να είχε δοθεί ρητή εντολή.

Το μέγεθος του προβλήματος έγινε άμεσα αντιληπτό μέσα από τις διαδικτυακές κοινότητες, όπου πολλαπλοί χρήστες επιβεβαίωσαν το ίδιο μοτίβο συμπεριφοράς. Αναφορές στο Reddit επισημαίνουν πως το φαινόμενο δεν περιοριζόταν σε ένα ελαττωματικό κομμάτι, αλλά επαναλαμβανόταν συστηματικά σε τουλάχιστον τρία διαφορετικά ζευγάρια γυαλιών, καλύπτοντας τόσο τις παλαιότερες όσο και τις νεότερες παρτίδες παραγωγής. Μάλιστα, η λειτουργία “Respond without Hey Meta“, η οποία σχεδιάστηκε για να επιτρέπει πιο φυσικές συνομιλίες διατηρώντας το μικρόφωνο ενεργό μετά από μια αρχική ερώτηση, ήταν εντελώς κλειστή. Η αδυναμία του λειτουργικού συστήματος να σεβαστεί τις ρυθμίσεις απορρήτου εγείρει σοβαρά ερωτήματα για την ποιότητα του εσωτερικού ελέγχου ποιότητας (QA) πριν την ευρεία κυκλοφορία των αναβαθμίσεων υλικολογισμικού.

Ο κόσμος παρακολουθεί με σκεπτικισμό την προσέγγιση της εταιρείας γύρω από τη διαχείριση αυτών των δεδομένων. Νωρίτερα μέσα στο έτος, δημοσιογραφικές έρευνες έφεραν στο φως στοιχεία που απεδείκνυαν πως εξωτερικοί συνεργάτες της Meta στην Κένυα είχαν πρόσβαση σε οπτικοακουστικό υλικό από τα έξυπνα γυαλιά χρηστών. Σκοπός τους ήταν η χειροκίνητη ταξινόμηση δεδομένων για την εκπαίδευση μελλοντικών μοντέλων μηχανικής μάθησης. Εκείνο το υλικό περιελάμβανε άκρως ευαίσθητες στιγμές, αναγκάζοντας την εταιρεία να αναθεωρήσει την πολιτική της. Ο συνδυασμός εκείνου του περιστατικού με τη σημερινή ακούσια ηχογράφηση δημιουργεί ένα ασφυκτικό περιβάλλον δυσπιστίας απέναντι στους ενσωματωμένους βοηθούς τεχνητής νοημοσύνης.

Στην ευρωπαϊκή αγορά, οι προεκτάσεις ενός τέτοιου σφάλματος είναι ακόμη πιο σοβαρές. Το νομοθετικό πλαίσιο του GDPR επιβάλλει αυστηρές κυρώσεις για τη συλλογή και επεξεργασία βιομετρικών δεδομένων χωρίς τη ρητή συγκατάθεση του χρήστη. Παρόλο που οι πιο προηγμένες δυνατότητες του Meta AI στα γυαλιά Ray-Ban δεν είναι επίσημα διαθέσιμες σε όλες τις ευρωπαϊκές χώρες, συμπεριλαμβανομένης της Ελλάδας, η βασική συνδεσιμότητα και οι φωνητικές εντολές λειτουργούν κανονικά.

Η βιομηχανία των φορετών συσκευών βρίσκεται αυτή τη στιγμή σε ένα κρίσιμο σταυροδρόμι. Από τη μία πλευρά, οι μηχανικοί προσπαθούν να δημιουργήσουν την αίσθηση της πανταχού παρούσας εξυπηρέτησης μέσω της «αόρατης» υπολογιστικής δύναμης. Από την άλλη, η απόλυτη εξάρτηση των ενδείξεων ασφαλείας από το ίδιο το λογισμικό που ελέγχει τα μικρόφωνα δημιουργεί έναν φαύλο κύκλο. Το όραμα των κατασκευαστών για συσκευές συνεχούς ροής δεδομένων (always-on sensing) συγκρούεται μετωπικά με τη θεμελιώδη ανάγκη του ανθρώπου για έλεγχο του προσωπικού του χώρου. Μέχρι να υπάρξουν φυσικοί, απομονωμένοι διακόπτες που να διακόπτουν το ηλεκτρικό κύκλωμα των αισθητήρων ανεξάρτητα από τον κώδικα, τέτοιου είδους περιστατικά θα παραμένουν μια διαρκής απειλή για την ψηφιακή ιδιωτικότητα.