«Δημόσιος κίνδυνος» τα Facebook και Instagram

Σύνοψη

• Δικαστήριο του Νέου Μεξικού επέβαλε πρόστιμο 567 εκατομμυρίων δολαρίων στη Meta, κατηγορώντας την εταιρεία για την πρόκληση βλάβης στην ψυχική υγεία των παιδιών.
• Η συνολική νομική ποινή στην πολιτεία ανέρχεται πλέον στα 942 εκατομμύρια δολάρια, συνυπολογίζοντας την αρχική καταδίκη που έλαβε χώρα τον περασμένο Μάρτιο.
• Ο δικαστής χαρακτήρισε επισήμως τις πλατφόρμες της εταιρείας ως «δημόσιο κίνδυνο», παρομοιάζοντας την επίδρασή τους στην ψυχολογία των εφήβων με ανεξέλεγκτη βιομηχανική ρύπανση.
• Απαιτείται νομικά η άμεση εφαρμογή νέων, αυστηρών ορίων χρήσης, ο δραστικός περιορισμός των ειδοποιήσεων και ο εκτενής έλεγχος των AI chatbots.
• Η εταιρεία προτίθεται να ασκήσει έφεση, υποστηρίζοντας ότι διαθέτει ήδη επαρκή εργαλεία γονικού ελέγχου, ενώ αντιμετωπίζει παρόμοιες αγωγές από δεκάδες άλλες αμερικανικές πολιτείες.

Η μητρική εταιρεία του Facebook και του Instagram βρίσκεται αντιμέτωπη με μια ιστορικής σημασίας δικαστική απόφαση η οποία ενδέχεται να επαναπροσδιορίσει ριζικά τον τρόπο με τον οποίο τα μέσα κοινωνικής δικτύωσης προσεγγίζουν το ανήλικο κοινό τους. 

Συγκεκριμένα, ένα πολιτειακό δικαστήριο στο Νέο Μεξικό των ΗΠΑ επέβαλε στην εταιρεία την καταβολή προστίμου ύψους 567 εκατομμυρίων δολαρίων, κρίνοντας ότι οι δημοφιλείς πλατφόρμες της έχουν λειτουργήσει ως «δημόσιος κίνδυνος» που βλάπτει αποδεδειγμένα την ψυχική υγεία των παιδιών και των εφήβων. 

Αυτή η εξέλιξη, η οποία έρχεται ως άμεση συνέχεια μιας προηγούμενης ετυμηγορίας ενόρκων τον περασμένο Μάρτιο που είχε επιβάλει πρόστιμο 375 εκατομμυρίων δολαρίων, ανεβάζει τη συνολική οικονομική ευθύνη της Meta απέναντι στη συγκεκριμένη αμερικανική πολιτεία στο ποσό των 942 εκατομμυρίων δολαρίων.

Τα κύρια σημεία της απόφασης

• Κατανομή κεφαλαίων: Από το συνολικό πρόστιμο, τα 420 εκατομμύρια δολάρια θα διατεθούν αποκλειστικά για υπηρεσίες θεραπείας και συμπεριφορικής υγείας νέων, ενώ τα υπόλοιπα 147 εκατομμύρια θα χρηματοδοτήσουν προγράμματα πρόληψης και εκστρατείες ευαισθητοποίησης.
• Περιορισμός της AI: Επιβάλλεται ρητή και απόλυτη απαγόρευση στην ικανότητα των AI chatbots της εταιρείας να εμπλέκονται σε ρομαντικές ή σεξουαλικοποιημένες συζητήσεις με ανηλίκους χρήστες.
• Τεχνικές παρεμβάσεις: Επιβάλλεται η εφαρμογή αυστηρών ορίων στις ειδοποιήσεις (push notifications) κατά τη διάρκεια των σχολικών ωρών, προκειμένου να μειωθεί η εξάρτηση των μαθητών από τις οθόνες των κινητών τους τηλεφώνων.

Ο δικαστής Bryan Biedscheid, ο οποίος προήδρευσε της σχετικής νομικής διαδικασίας, χρησιμοποίησε μια εξαιρετικά σκληρή και ταυτόχρονα στοχευμένη αναλογία για να περιγράψει τη λειτουργία της εταιρείας, συγκρίνοντας τη Meta με ένα ρυπογόνο βιομηχανικό εργοστάσιο. Σύμφωνα με το αναλυτικό σκεπτικό της απόφασής του, το κύριο προϊόν που παράγει αυτό το ψηφιακό εργοστάσιο είναι η στοχευμένη διαφήμιση και η υπερκατανάλωση περιεχομένου, ενώ η ψυχολογική βλάβη και η έκθεση των παιδιών σε κινδύνους σεξουαλικής εκμετάλλευσης αποτελούν τη βιομηχανική ρύπανση που διαχέεται ανεξέλεγκτα στην κοινωνία και η οποία πρέπει πλέον να περιοριστεί με αυστηρά νομικά μέσα. 

Η συγκεκριμένη νομική προσέγγιση του «δημόσιου κινδύνου» έχει χρησιμοποιηθεί επιτυχημένα στο παρελθόν εναντίον παραδοσιακών βιομηχανιών όπως αυτές του καπνού και των οπιοειδών, και η σημερινή εφαρμογή της στον τεχνολογικό τομέα δημιουργεί ένα εξαιρετικά ισχυρό δεδικασμένο για μελλοντικές αγωγές σε ολόκληρη την αμερικανική επικράτεια.

Ο Γενικός Εισαγγελέας του Νέου Μεξικού, Raúl Torrez, ο οποίος ήταν και ο ιθύνων νους πίσω από τη συγκεκριμένη νομική εκστρατεία, τόνισε κατά τη διάρκεια των αγορεύσεών του ότι ο σχεδιασμός των αλγορίθμων και η αρχιτεκτονική επιλογών των πλατφορμών της Meta ενθαρρύνουν σκόπιμα την εθιστική συμπεριφορά των ανηλίκων. Το δικαστήριο έκανε δεκτά τα επιχειρήματά του, απαιτώντας από τη Meta να εφαρμόσει ένα εκτενές σχέδιο τεχνικών αλλαγών που θα έχει δεσμευτική ισχύ για τα επόμενα πέντε χρόνια. Αυτό το σχέδιο συμπεριλαμβάνει τον δραστικό περιορισμό της ψηφιακής επικοινωνίας μεταξύ αγνώστων ενηλίκων και ανηλίκων μέσω των άμεσων μηνυμάτων, καθώς και την ουσιαστική ενίσχυση των μηχανισμών αναφοράς για περιστατικά διαδικτυακής κακοποίησης ανηλίκων.

Ιδιαίτερη αίσθηση προκάλεσαν οι αποκαλύψεις σχετικά με τον ρόλο της παραγωγικής τεχνητής νοημοσύνης στο ευρύτερο οικοσύστημα της εταιρείας. Εσωτερικά έγγραφα, τα οποία είχαν δει το φως της δημοσιότητας μέσω εκτενών δημοσιογραφικών ερευνών το προηγούμενο έτος, απεδείκνυαν ότι τα AI chatbots της εταιρείας μπορούσαν υπό ορισμένες προϋποθέσεις να παρασύρουν παιδιά σε εξαιρετικά ακατάλληλες συζητήσεις. Η παρούσα νομική απόφαση βάζει ένα οριστικό τέλος σε αυτές τις επικίνδυνες πρακτικές, απαιτώντας την άμεση ενσωμάτωση αυστηρότατων φίλτρων προστασίας που θα εμποδίζουν οποιαδήποτε προσομοίωση τέτοιων αλληλεπιδράσεων από τα πολύπλοκα αλγοριθμικά μοντέλα.

Παρά τη σκληρότητα της συνολικής ετυμηγορίας, το αμερικανικό δικαστήριο δεν έκανε δεκτά όλα τα αιτήματα της πολιτείας, αναγνωρίζοντας εμπράκτως τα περίπλοκα νομικά όρια που θέτει η ομοσπονδιακή νομοθεσία των ΗΠΑ. Πιο συγκεκριμένα, ο δικαστής αρνήθηκε να επιβάλει στη Meta την υποχρέωση να δημιουργήσει ένα σύστημα αυστηρής ηλικιακής επαλήθευσης για χρήστες κάτω των 13 ετών, επισημαίνοντας ρητά ότι ο ομοσπονδιακός νόμος COPPA (Children’s Online Privacy Protection Act) απαγορεύει κατηγορηματικά στις εταιρείες να συλλέγουν πρόσθετα προσωπικά δεδομένα από παιδιά, καθιστώντας μια τέτοια απαίτηση τεχνικά αντιφατική και νομικά επισφαλή. Παράλληλα, το δικαστήριο απέφυγε να διατάξει την πλήρη κατάργηση βασικών λειτουργιών, όπως η ατέρμονη κύλιση και η αυτόματη αναπαραγωγή βίντεο, κρίνοντας ότι τέτοιες ριζικές παρεμβάσεις στον πυρήνα του λογισμικού θα μπορούσαν να παραβιάσουν τα συνταγματικά δικαιώματα της εταιρείας και να προσκρούσουν στο περιβόητο Άρθρο 230 της αμερικανικής νομοθεσίας.

Αν και η συγκεκριμένη δικαστική διαμάχη εκτυλίσσεται αποκλειστικά σε αμερικανικό έδαφος, οι επιπτώσεις της αναμένεται να γίνουν αισθητές σε παγκόσμιο επίπεδο και φυσικά να επηρεάσουν ευθέως την ευρωπαϊκή αγορά, συμπεριλαμβανομένης της Ελλάδας. Στην Ευρωπαϊκή Ένωση, το αυστηρό κανονιστικό πλαίσιο της Πράξης για τις Ψηφιακές Υπηρεσίες (Digital Services Act – DSA) έχει ήδη θέσει στο μικροσκόπιο τις πρακτικές των μεγάλων τεχνολογικών κολοσσών αναφορικά με την ουσιαστική προστασία των ανηλίκων. 

Όταν εταιρείες του μεγέθους της Meta αναγκάζονται να αναπτύξουν περίπλοκα εργαλεία γονικού ελέγχου και να τροποποιήσουν την αρχιτεκτονική του λογισμικού τους για να συμμορφωθούν με αποφάσεις αμερικανικών δικαστηρίων, τις περισσότερες φορές ενσωματώνουν αυτές τις δομικές αλλαγές καθολικά στον κεντρικό κώδικα των εφαρμογών τους για λόγους τεχνικής ομοιομορφίας. Συνεπώς, οι Έλληνες χρήστες και οι γονείς ενδέχεται να δουν σύντομα νέες επιλογές ασφαλείας να εμφανίζονται στα μενού ρυθμίσεων του Instagram και του Facebook, ως άμεσο αποτέλεσμα αυτής της σοβαρής δικαστικής ήττας στην άλλη πλευρά του Ατλαντικού.

Αξίζει να σημειωθεί ότι η δικαστική περιπέτεια της Meta δεν σταματά καθόλου στα σύνορα του Νέου Μεξικού, καθώς το εκτενές νομικό τμήμα της εταιρείας προετοιμάζεται πυρετωδώς για μια σειρά από εξίσου κρίσιμες αναμετρήσεις. Τις προσεχείς ημέρες ξεκινά μια νέα, εξαιρετικά μεγάλης κλίμακας δίκη στο ομοσπονδιακό δικαστήριο του Όκλαντ στην Καλιφόρνια, όπου γενικοί εισαγγελείς από περισσότερες από τριάντα διαφορετικές πολιτείες των ΗΠΑ έχουν ενώσει τις δυνάμεις τους, κατηγορώντας τον τεχνολογικό κολοσσό για συστηματικές παραβιάσεις των νόμων περί προστασίας της ιδιωτικότητας των παιδιών. Παράλληλα, η εταιρεία έχει ήδη ηττηθεί σε μια αντίστοιχη αγωγή στο Λος Άντζελες νωρίτερα μέσα στο έτος, γεγονός που αποδεικνύει περίτρανα ότι η νομική ασπίδα της ψηφιακής ουδετερότητας έχει αρχίσει να καταρρέει οριστικά, επιφέροντας άμεσο και μετρήσιμο αντίκτυπο στην οικονομική απόδοση και στη δημόσια εικόνα της επιχείρησης.