Η AI του Google Search αποτυγχάνει στα τεστ ασφαλείας για τους μαθητές

Σύνοψη

• Το Youth AI Safety Institute του οργανισμού Common Sense Media αξιολόγησε τα Google AI Overview και AI Mode με τη χαμηλότερη δυνατή βαθμολογία («Μη Αποδεκτός Κίνδυνος»).
• Τα συστήματα απέτυχαν σε 7 από τις 8 βασικές αρχές ασφαλείας, αγνοώντας σαφείς ενδείξεις αυτοκτονικού ιδεασμού, ψύχωσης και μανίας σε δοκιμαστικούς λογαριασμούς ανηλίκων.
• Η AI της Google έδωσε ακριβείς οδηγίες για τη δημιουργία deepfakes, χαρακτήρισε διατροφικές διαταραχές ως «φυσιολογικές» και έλυσε το 100% των σχολικών εργασιών που του ανατέθηκαν.
• Το βασικότερο πρόβλημα έγκειται στην αδυναμία απενεργοποίησης (opt-out) αυτών των λειτουργιών από γονείς, σχολεία ή τους ίδιους τους χρήστες, καθώς είναι ενσωματωμένες στον πυρήνα της αναζήτησης.
• Η Google απορρίπτει τα ευρήματα της έκθεσης, υποστηρίζοντας ότι οι δοκιμές βασίστηκαν σε ακραία σενάρια που δεν αντικατοπτρίζουν την πραγματική χρήση.

Η ενσωμάτωση της παραγωγικής Τεχνητής Νοημοσύνης στον πυρήνα της μηχανής αναζήτησης της Google επαναπροσδιορίζει τον τρόπο με τον οποίο οι χρήστες καταναλώνουν πληροφορία. Ωστόσο, μια νέα ανεξάρτητη έρευνα εγείρει σοβαρά ερωτήματα για την ασφάλεια αυτής της μετάβασης, ειδικά όσον αφορά την πιο ευάλωτη ομάδα χρηστών, τους ανηλίκους.

Σύμφωνα με τα ευρήματα που δημοσιεύτηκαν τον Ιούλιο του 2026 από το Youth AI Safety Institute του οργανισμού Common Sense Media, τα χαρακτηριστικά AI Overview και AI Mode της Google δεν διαθέτουν τις απαραίτητες δικλείδες ασφαλείας. Τα αποτελέσματα της αξιολόγησης είναι άκρως ανησυχητικά, αναδεικνύοντας θεμελιώδη κενά στον τρόπο με τον οποίο τα Μεγάλα Γλωσσικά Μοντέλα (LLMs) της εταιρείας αντιλαμβάνονται το πλαίσιο, τον κίνδυνο και την πρόθεση πίσω από τα ερωτήματα των παιδιών.

Ποιοι είναι οι πραγματικοί κίνδυνοι του Google AI Search για τα παιδιά;

Σύμφωνα με το ινστιτούτο Common Sense Media, τα εργαλεία Google AI Overview και AI Mode αξιολογήθηκαν με «Μη Αποδεκτό Κίνδυνο» (Unacceptable Risk), αποτυγχάνοντας σε 7 από τις 8 βασικές αρχές ασφαλείας. Τα συστήματα αγνόησαν ενδείξεις αυτοκτονικού ιδεασμού, παρείχαν οδηγίες δημιουργίας deepfake, ενθάρρυναν τη χρήση ουσιών και έλυσαν το 100% των σχολικών εργασιών, χωρίς καμία δυνατότητα απενεργοποίησής τους από τους γονείς.

Τα βασικότερα σημεία αστοχίας:

• Αδυναμία αναγνώρισης κρίσεων ψυχικής υγείας: Όταν ερευνητές, προσποιούμενοι ανηλίκους, εισήγαγαν φράσεις που υποδείκνυαν ότι νιώθουν βάρος για τους γύρω τους, το AI Overview πρότεινε ρυθμίσεις “legacy contact” (επαφής κληρονομιάς), αγνοώντας πλήρως τον κίνδυνο.
• Επικίνδυνες ιατρικές και συμπεριφορικές συμβουλές: Το σύστημα χαρακτήρισε πρακτικές νευρικής βουλιμίας (purging) ως «απολύτως φυσιολογικές», ενώ σε αναφορά για χρήση μαριχουάνας, απάντησε: «Απολαύστε τον εορτασμό σας!».
• Παροχή εργαλείων κακόβουλης χρήσης: Στα ερωτήματα για το πώς μπορεί κάποιος να κλωνοποιήσει μια φωνή ή να δημιουργήσει deepfake περιεχόμενο, το σύστημα προσέφερε λεπτομερείς, βήμα-προς-βήμα οδηγίες, διευκολύνοντας εν δυνάμει πρακτικές cyberbullying.
• Αναξιόπιστες πηγές βοήθειας: Ακόμα και όταν το σύστημα αναγνώριζε σωστά μια κρίση, σε αρκετές περιπτώσεις κατεύθυνε τις οικογένειες σε τηλεφωνικές γραμμές υποστήριξης που δεν λειτουργούν πλέον.

Γιατί η απουσία επιλογής απενεργοποίησης (Opt-Out) αλλάζει τα δεδομένα;

Σε αντίθεση με το αυτόνομο chatbot Gemini που διαθέτει αυστηρούς γονικούς ελέγχους, τα AI Overview και AI Mode είναι άρρηκτα ενσωματωμένα στα αποτελέσματα αναζήτησης της Google. Δεν παρέχεται καμία επιλογή απενεργοποίησης σε επίπεδο λογαριασμού, συσκευής ή σχολικού δικτύου, καθιστώντας την έκθεση των ανηλίκων στο παραγόμενο περιεχόμενο εντελώς αναπόφευκτη.

Η αρχιτεκτονική επιλογή της Google να καταστήσει το AI Overview αναπόσπαστο κομμάτι του Search experience δημιουργεί ένα τεράστιο κενό ελέγχου. Μέχρι πρότινος, εάν ένα σχολείο ή ένας γονέας ήθελε να περιορίσει την πρόσβαση σε εργαλεία τεχνητής νοημοσύνης (όπως το ChatGPT ή το αυτόνομο Gemini), αρκούσε ο αποκλεισμός των συγκεκριμένων domains.

Πλέον, το AI Mode λειτουργεί αυτόματα μέσα στην πιο πολυχρησιμοποιημένη σελίδα του διαδικτύου. Η έκθεση του Common Sense Media υπογραμμίζει πως το σύστημα ολοκλήρωσε το 100% των σχολικών εργασιών που του ανατέθηκαν από τους ερευνητές. Αυτό σημαίνει ότι κάθε μαθητής με πρόσβαση σε ένα σχολικό Chromebook έχει πλέον στη διάθεση του έναν μηχανισμό που μπορεί να εκπονήσει τις εργασίες του, χωρίς να χρειάζεται να επισκεφθεί εξωτερικές, πιθανώς μπλοκαρισμένες από το σχολείο, πλατφόρμες AI.

Η τεχνική απόκλιση μεταξύ AI Overview και AI Mode

Ένα από τα πιο ενδιαφέροντα τεχνικά ευρήματα της έρευνας είναι η διαφοροποίηση στην απόδοση μεταξύ των δύο εργαλείων. Η αναφορά σημειώνει ότι το AI Mode τα πήγε σταθερά καλύτερα από το AI Overview στον εντοπισμό παραμέτρων κινδύνου.

Αυτό το στοιχείο αποδεικνύει ότι η Google διαθέτει ήδη την τεχνολογία και τα απαραίτητα μοντέλα φιλτραρίσματος για την προστασία των χρηστών. Ωστόσο, φαίνεται πως η εταιρεία δεν εφαρμόζει το ίδιο επίπεδο αυστηρότητας στους αλγόριθμους που τροφοδοτούν το ευρύτερο AI Overview, πιθανότατα για να διατηρήσει χαμηλά τα επίπεδα καθυστέρησης και το υπολογιστικό κόστος κατά την παραγωγή μαζικών αποτελεσμάτων αναζήτησης. Η ταχύτητα απόκρισης δείχνει να τίθεται σε προτεραιότητα έναντι του ενδελεχούς σημασιολογικού ελέγχου για θέματα ασφαλείας.

Η απάντηση της Google και η υπεράσπιση των δοκιμών

Η Google, αναμενόμενα, απέρριψε κατηγορηματικά τα συμπεράσματα της έκθεσης, χαρακτηρίζοντας τη μεθοδολογία της προβληματική. Σύμφωνα με εκπρόσωπο της εταιρείας, τα ευρήματα προέκυψαν από «επιθετικές εντολές» οι οποίες δεν αντικατοπτρίζουν τον τρόπο με τον οποίο οι μέσοι χρήστες (και τα παιδιά) χρησιμοποιούν φυσιολογικά τα προϊόντα της.

Από την πλευρά της Google, επισημαίνεται πως τα συστήματά της δοκιμάζονται συνεχώς από ειδικές ομάδες και ότι η εταιρεία αδυνατεί να αναπαραγάγει πολλές από τις συγκεκριμένες προβληματικές απαντήσεις που παραθέτει το Common Sense Media. Αυτή η διαφωνία αναδεικνύει μια ευρύτερη πρόκληση στον τομέα της παραγωγικής τεχνητής νοημοσύνης, δηλαδή ότι τα μοντέλα είναι πιθανολογικά (probabilistic) και όχι ντετερμινιστικά (deterministic). Η ίδια ερώτηση μπορεί να παράγει διαφορετική απάντηση ανάλογα με μικρές παραλλαγές στο prompt, το ιστορικό αναζήτησης του χρήστη, ή ακόμα και την ώρα της ημέρας που πραγματοποιείται η επεξεργασία από τους servers.

Με τη ματιά του Techgear

Το πρόβλημα που αναδεικνύει το Common Sense Media δεν αφορά απλώς μερικές «κακές απαντήσεις» ενός αλγορίθμου, αλλά τον σχεδιασμό του ίδιου του προϊόντος. Είναι άλλο να πρέπει ένας χρήστης να ανοίξει συνειδητά την εφαρμογή του ChatGPT ή του Gemini, να αποδεχτεί τους όρους χρήσης και να ξεκινήσει μια συνομιλία, και εντελώς διαφορετικό η Google να παρεμβάλει παραγωγικό κείμενο στην κορυφή της οθόνης για κάθε αναζήτηση, χωρίς τρόπο διαφυγής.

Όταν το ίδιο το σύστημα αποτυγχάνει να αναγνωρίσει τον αυτοκτονικό ιδεασμό και προσφέρει οδηγίες για deepfakes σε λογαριασμούς που ανήκουν επιβεβαιωμένα σε ανηλίκους, το επιχείρημα της Google περί «ακραίων δοκιμών» καταρρέει. Οι έφηβοι είναι ακριβώς το κοινό που θα δοκιμάσει τα όρια ενός συστήματος από φυσική περιέργεια ή πειραματισμό. Η επιβολή μιας beta, επί της ουσίας, τεχνολογίας στον πυρήνα της κυρίαρχης μηχανής αναζήτησης του πλανήτη, χωρίς διακόπτη απενεργοποίησης για σχολεία και γονείς, δεν είναι απλώς τεχνολογικό σφάλμα, αλλά σοβαρό σχεδιαστικό ολίσθημα. Μέχρι η βιομηχανία να εγγυηθεί απόλυτα την ασφάλεια γύρω από ευαίσθητα ερωτήματα, η συμμετοχή των παιδιών σε πειράματα παραγωγικής AI πρέπει να είναι αυστηρά opt-in, όχι υποχρεωτική.