Ειδοποιεί πλέον τους γονείς όταν οι έφηβοι συζητούν για αυτοτραυματισμό

Σύνοψη

• Το Meta AI στέλνει πλέον ειδοποιήσεις στους γονείς (μέσω των εργαλείων επίβλεψης του Instagram) εάν οι έφηβοι συζητήσουν θέματα αυτοκτονίας ή αυτοτραυματισμού με το chatbot.
• Κάθε συνομιλία που επισημαίνεται από τον αλγόριθμο υφίσταται υποχρεωτικό χειροκίνητο έλεγχο (manual review) πριν την αποστολή του alert, μειώνοντας τα ψευδώς θετικά (false positives).
• Το χαρακτηριστικό λειτουργεί ήδη σε ΗΠΑ, Ηνωμένο Βασίλειο, Αυστραλία και Καναδά. Έως τα τέλη του 2026 θα κυκλοφορήσει παγκοσμίως, συμπεριλαμβάνοντας το ελληνικό κοινό.
• Σε περιπτώσεις άμεσου κινδύνου, η Meta ενσωματώνει λειτουργία απευθείας ειδοποίησης των υπηρεσιών έκτακτης ανάγκης (.
• Οι έφηβοι εγκλωβίζονται από προεπιλογή σε αυστηρότερα όρια περιεχομένου, με το AI να αρνείται να απαντήσει σε ερωτήματα για σεξουαλικά θέματα ή συνταγές αλκοόλ.

Η Meta ενσωματώνει τον αλγόριθμο τεχνητής νοημοσύνης στα εργαλεία γονικής επίβλεψης του Instagram, με στόχο την προστασία της ψυχικής υγείας των εφήβων. Εφεξής, όταν ένας έφηβος συζητά ή αναζητά πληροφορίες σχετικές με αυτοκτονία ή αυτοτραυματισμό μέσω του Meta AI chatbot, το σύστημα αποστέλλει άμεση ειδοποίηση στους συνδεδεμένους γονείς ή κηδεμόνες. Η κλίμακα αξιολόγησης σχεδιάστηκε ώστε να καλύπτει τόσο άμεσες αναφορές όσο και έμμεσες ενδείξεις ψυχολογικής πίεσης.

Τα 3 κύρια χαρακτηριστικά του συστήματος:

• Άμεση καθοδήγηση: Το Meta AI κατευθύνει τον έφηβο σε γραμμές υποστήριξης κρίσεων προτού καν σταλεί η ειδοποίηση στον γονέα.
• Παροχή πόρων: Οι γονείς δεν λαμβάνουν απλώς μια ειδοποίηση, αλλά συνοδευτικό υλικό για το πώς να προσεγγίσουν τη συγκεκριμένη συζήτηση με τα παιδιά τους.
• Έλεγχος υποτροπής: Το σύστημα παρακολουθεί επαναλαμβανόμενες αναζητήσεις σχετικών όρων, κλιμακώνοντας την ένδειξη κινδύνου.

Η διαδικασία ελέγχου: Μηχανική μάθηση και ανθρώπινη επίβλεψη

Η Meta συνεργάστηκε με περισσότερους από 75 κλινικούς ψυχολόγους, οι οποίοι εξειδικεύονται στην εφηβική ψυχική υγεία, για την εκπαίδευση του μοντέλου. Προκειμένου να αποφευχθεί ο πανικός των γονέων από λανθασμένες ειδοποιήσεις, η εταιρεία υιοθέτησε ένα υβριδικό μοντέλο. Όλες οι συνομιλίες που επισημαίνονται από το σύστημα τεχνητής νοημοσύνης ελέγχονται χειροκίνητα από ανθρώπινο δυναμικό της πλατφόρμας και μόνο μετά την επαλήθευση του περιεχομένου αποστέλλεται η ειδοποίηση. Ωστόσο, σε περιπτώσεις όπου η πρόθεση του εφήβου παραμένει ασαφής κατά την αξιολόγηση, το πρωτόκολλο επιβάλλει την αποστολή της ειδοποίησης, λειτουργώντας με γνώμονα τη μέγιστη δυνατή πρόληψη. Το μοντέλο αναγνωρίζει και εξισορροπεί την ανάγκη για ιδιωτικότητα των εφήβων με την κρισιμότητα της γονικής ενημέρωσης όταν υπάρχει υποψία αυτοτραυματισμού.

Ενεργοποίηση υπηρεσιών έκτακτης ανάγκης και διαθεσιμότητα

Πέρα από τη γονική ενημέρωση, η υποδομή της Meta ενισχύεται με εργαλεία παρέμβασης στο φυσικό περιβάλλον. Όταν το Meta AI εντοπίσει ότι ένας χρήστης (ανεξαρτήτως ηλικίας) βρίσκεται σε άμεσο, επικείμενο κίνδυνο αφαίρεσης της ζωής του, το σύστημα διαθέτει πλέον τη δυνατότητα να ειδοποιήσει απευθείας τις τοπικές υπηρεσίες έκτακτης ανάγκης για την πραγματοποίηση ελέγχων ευημερίας. Το μέγεθος αυτού του συστήματος είναι ήδη σημαντικό, καθώς το περασμένο έτος η εταιρεία πραγματοποίησε πάνω από 19.000 τέτοιες παραπομπές παγκοσμίως, βασισμένη σε δημοσιεύσεις στο Facebook και το Instagram.

Σε επίπεδο διαθεσιμότητας, η νέα λειτουργία του Meta AI είναι ήδη ενεργή για τους γονείς στις ΗΠΑ, το Ηνωμένο Βασίλειο, την Αυστραλία και τον Καναδά. Σύμφωνα με το επίσημο χρονοδιάγραμμα, η λειτουργία θα γίνει διαθέσιμη παγκοσμίως έως τα τέλη του 2026, κάτι που πρακτικά σημαίνει ότι θα ενεργοποιηθεί και στην Ελλάδα. Οι Έλληνες χρήστες των εργαλείων γονικής επίβλεψης του Instagram θα πρέπει να αναμένουν την προσθήκη των νέων ειδοποιήσεων στο control panel της εφαρμογής, προσφέροντας ένα κρίσιμο ψηφιακό δίχτυ ασφαλείας.

Stricter Limited Content Setting: Τι αλλάζει στην πρόσβαση των εφήβων

Οι αλλαγές στην πλατφόρμα συμπληρώνονται από δραστικούς περιορισμούς στη διάδραση των εφήβων με τα παραγωγικά μοντέλα. Όλοι οι λογαριασμοί εφήβων (Teen Accounts) μεταφέρονται αυτόματα στη ρύθμιση ηλικίας 13+, η οποία καθορίζει τις αποκρίσεις του Meta AI.

Η AI εκπαιδεύτηκε αυστηρά ώστε να αρνείται τη συμμετοχή σε προτροπές που αφορούν ευαίσθητα ή ακατάλληλα θέματα. Για παράδειγμα, το Meta AI δεν εμπλέκεται σε σεξουαλικές ή ρομαντικές συζητήσεις με εφήβους, ούτε παρέχει οδηγίες ή συνταγές για την παρασκευή αλκοολούχων ποτών. Αντίθετα, επανακατευθύνει τον χρήστη σε ασφαλέστερη θεματολογία. Επιπρόσθετα, οι γονείς που επιλέγουν το «Limited Content» (Ρύθμιση Περιορισμένου Περιεχομένου) για το Instagram, πλέον εφαρμόζουν τα ίδια αυστηρά όρια φίλτρανσης και στις συνομιλίες με το chatbot, ελαχιστοποιώντας την πιθανότητα απρόβλεπτων ή δυνητικά επιβλαβών αλληλεπιδράσεων.