Ενσωμάτωση ακατάλληλων AI chatbots σε παιδικά παιχνίδια

Σύνοψη

• Νέα έρευνα του οργανισμού PIRG αποκαλύπτει ότι δημοφιλή παιδικά παιχνίδια ενσωματώνουν μη φιλτραρισμένα, μεγάλα γλωσσικά μοντέλα (LLMs) τεχνητής νοημοσύνης.
• Οι κατασκευαστές χρησιμοποιούν τους όρους χρήσης (Terms of Service) για να αποποιηθούν την ευθύνη σχετικά με την προβολή ακατάλληλου περιεχομένου, μεταθέτοντας το νομικό βάρος στους γονείς.
• Καταγράφονται σοβαρές παραβιάσεις της ιδιωτικότητας, καθώς μικρόφωνα και κάμερες μεταδίδουν δεδομένα σε απομακρυσμένους servers για την εκπαίδευση αλγορίθμων.
• Στην ευρωπαϊκή και ελληνική αγορά, η διάθεση τέτοιων συσκευών εγείρει άμεσα ζητήματα συμβατότητας με τον Γενικό Κανονισμό Προστασίας Δεδομένων (GDPR) και το νέο EU AI Act.

Η ραγδαία ανάπτυξη της παραγωγικής τεχνητής νοημοσύνης δεν περιορίζεται πλέον σε εταιρικές εφαρμογές και εργαλεία παραγωγικότητας. Οι αλγόριθμοι έχουν ήδη ενσωματωθεί σε καταναλωτικά προϊόντα απευθυνόμενα σε ανηλίκους, μετατρέποντας παραδοσιακά φυσικά αντικείμενα σε τερματικά συλλογής δεδομένων.

Μια εκτενής ανάλυση του αμερικανικού οργανισμού ερευνών PIRG (Public Interest Research Group) και αντίστοιχες τεχνικές αναφορές, φέρνουν στην επιφάνεια τις κρίσιμες ευπάθειες που κρύβουν τα “έξυπνα” παιχνίδια. Πίσω από την πολύχρωμη πλαστική επιφάνεια, κρύβονται μεγάλα γλωσσικά μοντέλα (LLMs) τα οποία αρχικά σχεδιάστηκαν αποκλειστικά για ενηλίκους.

Πώς Λειτουργούν τα Παιχνίδια Παραγωγικής Τεχνητής Νοημοσύνης

Τα “έξυπνα” παιχνίδια τεχνητής νοημοσύνης ενσωματώνουν μικρόφωνα και ηχεία, μεταδίδοντας τις φωνητικές εντολές των παιδιών μέσω τοπικού δικτύου Wi-Fi σε απομακρυσμένους servers. Εκεί, μοντέλα επεξεργασίας φυσικής γλώσσας (NLP) αναλύουν το ηχητικό δείγμα, παράγουν την απάντηση και την επιστρέφουν στη συσκευή, συλλέγοντας και αποθηκεύοντας ταυτόχρονα τα δεδομένα αλληλεπίδρασης.

Η τεχνική αρχιτεκτονική αυτών των συσκευών σπάνια βασίζεται σε τοπική επεξεργασία. Λόγω του περιορισμένου hardware εντός του ίδιου του παιχνιδιού, ολόκληρος ο υπολογιστικός φόρτος εξαρτάται από API τρίτων εταιρειών, όπως η OpenAI ή η Anthropic. Αυτό πρακτικά σημαίνει πως:

• Το μικρόφωνο παραμένει διαρκώς ενεργό αναμένοντας λέξεις-κλειδιά (wake words).
• Τα ηχητικά αρχεία αποστέλλονται σε servers εκτός Ευρωπαϊκής Ένωσης.
• Οι απαντήσεις δημιουργούνται δυναμικά και δεν είναι προ-ηχογραφημένες, καθιστώντας τον πλήρη έλεγχο αδύνατο.

Η έρευνα του PIRG και οι κρυφοί Όροι Χρήσης (ToS)

Η ανάλυση του οργανισμού PIRG στις πολιτικές απορρήτου αποκαλύπτει ότι οι κατασκευαστές αποποιούνται κάθε νομική ευθύνη για το παραγόμενο περιεχόμενο. Οι όροι χρήσης μεταφέρουν το βάρος αποκλειστικά στους γονείς, ενώ παράλληλα διατηρούν το δικαίωμα αξιοποίησης των παιδικών δεδομένων για την περαιτέρω εκπαίδευση των αλγορίθμων.

Η ανάγνωση των “ψιλών γραμμάτων” αποτελεί μια εξαιρετικά δυσάρεστη αποκάλυψη για τους καταναλωτές. Όπως σημειώνει το PIRG, πολλές εταιρείες κατασκευής παιχνιδιών αναφέρουν ρητά πως η τεχνητή νοημοσύνη μπορεί να παράγει “ανακριβείς, προσβλητικές ή επιβλαβείς πληροφορίες“. Με την αποδοχή των όρων κατά την εγκατάσταση της συνοδευτικής εφαρμογής στο smartphone του γονέα, ο χρήστης συμφωνεί να αναλάβει εξ ολοκλήρου το ρίσκο. Επιπλέον, καταγράφεται η πρακτική συλλογής τηλεμετρίας: γεωγραφική τοποθεσία μέσω διευθύνσεων IP, συνήθειες παιχνιδιού, και σε ορισμένες περιπτώσεις, βιομετρικά δεδομένα φωνής.

Το πρόβλημα των παραισθήσεων και τα μη φιλτραρισμένα LLMs

Ένα από τα σημαντικότερα τεχνικά ζητήματα στην παρούσα γενιά παραγωγικής τεχνητής νοημοσύνης είναι το φαινόμενο των παραισθήσεων. Τα μοντέλα τείνουν να παράγουν εξαιρετικά πειστικές αλλά εντελώς λανθασμένες πληροφορίες, όταν δεν διαθέτουν τα κατάλληλα δεδομένα. Όταν αυτό το χαρακτηριστικό μεταφέρεται στο περιβάλλον ενός μικρού παιδιού, οι συνέπειες ξεφεύγουν από την απλή παραπληροφόρηση.

Τα συστήματα αυτά λειτουργούν μέσω ισχυρών αλγορίθμων που εκπαιδεύτηκαν στο σύνολο του διαθέσιμου διαδικτύου. Παρά την ύπαρξη επιφανειακών δικλείδων ασφαλείας, δεν είναι σπάνιες οι περιπτώσεις όπου τα chatbots “σπάνε” μετά από συγκεκριμένες φραστικές ακολουθίες. Το παιχνίδι μπορεί να ξεκινήσει μια αθώα συζήτηση για παραμύθια και να καταλήξει, λόγω μιας αλυσιδωτής παραγωγής λανθασμένων συσχετισμών, να συζητά για βία, ενήλικα θέματα ή να δίνει επικίνδυνες συμβουλές. Οι κατασκευαστές παιχνιδιών συχνά εφαρμόζουν ένα φθηνό “περιτύλιγμα” γύρω από ένα υπάρχον LLM, δίχως να επενδύουν σε εξειδικευμένα μοντέλα ασφαλή για ανηλίκους.

GDPR, ευρωπαϊκό πλαίσιο και η ελληνική αγορά

Ενώ στις ΗΠΑ το νομικό πλαίσιο ορίζεται από το COPPA (Children’s Online Privacy Protection Act), στην Ελλάδα και την Ευρωπαϊκή Ένωση η κατάσταση ελέγχεται από τον πολύ αυστηρότερο GDPR. Η πώληση τέτοιων παιχνιδιών στα ελληνικά καταστήματα ηλεκτρονικών ειδών ή η εισαγωγή τους μέσω γνωστών e-shops, δημιουργεί σημαντικά ερωτήματα νομιμότητας.

Οποιαδήποτε συσκευή επεξεργάζεται προσωπικά δεδομένα παιδιών κάτω των 15 ετών (όπως ορίζει η ελληνική νομοθεσία για τη συγκατάθεση ανηλίκων) απαιτεί ρητή, ξεκάθαρη και ανακλητή συγκατάθεση από τον κηδεμόνα. Επιπλέον, το νέο EU AI Act κατηγοριοποιεί τα συστήματα τεχνητής νοημοσύνης που στοχεύουν ή αλληλεπιδρούν με παιδιά στην κατηγορία “Υψηλού Κινδύνου”.

Αυτό πρακτικά σημαίνει ότι τα παιχνίδια που εισάγονται στην ελληνική αγορά πρέπει να φέρουν πιστοποιήσεις ασφαλείας και να περνούν από αυστηρούς ελέγχους, πριν εμφανιστούν στα ράφια. Ωστόσο, η γκρίζα αγορά και οι απευθείας διαδικτυακές παραγγελίες από τρίτες χώρες, παρακάμπτουν αυτές τις ευρωπαϊκές δικλείδες ασφαλείας, αφήνοντας τους Έλληνες καταναλωτές εκτεθειμένους.

Η άποψη του Techgear

Η αλληλεπίδραση με τα νεότερα “έξυπνα” παιχνίδια που κυκλοφορούν στην αγορά δημιουργεί μια εντελώς νέα κατηγορία κινδύνου για τα νοικοκυριά. Έχοντας δοκιμάσει συσκευές με ενσωματωμένα LLMs, η τεχνική αστοχία είναι εμφανής: ο χρόνος απόκρισης στο πάτημα του κουμπιού προδίδει την αποστολή δεδομένων στο εξωτερικό, ενώ η ποιότητα των απαντήσεων συχνά καταλήγει σε απρόβλεπτα και μη ασφαλή μονοπάτια.

Οι γονείς στην Ελλάδα πρέπει να σταματήσουν να αντιμετωπίζουν αυτά τα προϊόντα ως απλά “λούτρινα” ή πλαστικές φιγούρες. Είναι, στην ουσία τους, τερματικά πρόσβασης στο διαδίκτυο και ανοιχτά μικρόφωνα που εγκαθίστανται στο παιδικό δωμάτιο. Η ευθύνη της προστασίας δεν μπορεί να αφεθεί στις αόριστες νομικές ρήτρες των κατασκευαστών. Η τεχνολογική εκπαίδευση και ο αυστηρός έλεγχος των συνδέσεων Wi-Fi στο σπίτι αποτελούν την απόλυτη προτεραιότητα.