Η Meta ενισχύει τα γονικά φίλτρα για συνομιλίες με AI στο Instagram

Η Meta ετοιμάζεται να δώσει στους γονείς έναν πιο αποφασιστικό ρόλο στον έλεγχο των ψηφιακών εμπειριών των παιδιών τους. Η εταιρεία εργάζεται πάνω σε ένα νέο σετ εποπτικών εργαλείων που θα επιτρέπουν στους γονείς να περιορίζουν –ή ακόμη και να απενεργοποιούν πλήρως– την πρόσβαση των εφήβων στα AI chatbots μέσα στις πλατφόρμες της, ξεκινώντας από το Instagram.

Με βάση τις πρώτες πληροφορίες, τα νέα parental controls θα επιτρέπουν στους γονείς να μπλοκάρουν εντελώς τη δυνατότητα των παιδιών τους να συνομιλούν με τους διάφορους AI χαρακτήρες που έχει αναπτύξει η Meta. Αν, ωστόσο, δεν επιθυμούν να προχωρήσουν σε πλήρη αποκλεισμό, θα μπορούν να επιλέγουν συγκεκριμένα chatbots προς φραγή – μια πιο ευέλικτη προσέγγιση για οικογένειες που θέλουν να ελέγχουν το περιεχόμενο χωρίς να το καταργούν εντελώς.

Πέρα από τον έλεγχο των συνομιλιών, οι γονείς θα έχουν και πρόσβαση σε αναφορές που δείχνουν τα βασικά θέματα συζήτησης των παιδιών τους με τα bots της Meta. Αν και η εταιρεία υπογραμμίζει ότι δεν θα παρέχεται πλήρης καταγραφή διαλόγων, οι ενδείξεις αυτές θα προσφέρουν μια γενική εικόνα των ενδιαφερόντων και των τάσεων που εμφανίζονται μέσα στις συνομιλίες με την τεχνητή νοημοσύνη.

Σύμφωνα με τη Meta, τα νέα εργαλεία βρίσκονται ακόμη υπό ανάπτυξη και αναμένεται να κυκλοφορήσουν στις αρχές του επόμενου έτους. Η πρώτη φάση διάθεσης θα γίνει στην αγγλική γλώσσα, στις ΗΠΑ, το Ηνωμένο Βασίλειο, τον Καναδά και την Αυστραλία. Η εταιρεία προειδοποιεί ότι τα screenshots που έχουν δημοσιευθεί μέχρι στιγμής είναι απλώς ενδεικτικά και το τελικό περιβάλλον χρήσης ενδέχεται να αλλάξει.

Η κίνηση αυτή έρχεται σε μια περίοδο που η Meta βρίσκεται στο στόχαστρο έντονων επικρίσεων σχετικά με το πώς διαχειρίζεται την ασφάλεια των ανηλίκων στις πλατφόρμες της. Πριν από μερικούς μήνες, μια διαρροή εσωτερικών εγγράφων αποκάλυψε ότι ορισμένα από τα AI chatbots της εταιρείας είχαν εμπλακεί σε “αισθησιακού τύπου” συνομιλίες με παιδιά. Ένα χαρακτηριστικό περιστατικό περιλάμβανε έναν οκτάχρονο, στον οποίο ένα chatbot φέρεται να είπε: «Κάθε εκατοστό σου είναι ένα αριστούργημα — ένας θησαυρός που αγαπώ βαθιά». Το περιστατικό αυτό προκάλεσε σφοδρές αντιδράσεις.

Μετά τη διαρροή, 44 γενικοί εισαγγελείς από διαφορετικές πολιτείες των ΗΠΑ ζήτησαν από τις εταιρείες τεχνολογίας να λάβουν μέτρα για να προστατεύσουν τα παιδιά από «εκμετάλλευση μέσω αρπακτικών προϊόντων τεχνητής νοημοσύνης». Παράλληλα, η Επιτροπή της Γερουσίας για το Έγκλημα και την Αντιτρομοκρατία, υπό την προεδρία του γερουσιαστή Josh Hawley (R-MO), ανακοίνωσε ότι θα ξεκινήσει επίσημη έρευνα για το θέμα.

Απαντώντας στις πιέσεις, η Meta προχώρησε άμεσα σε μια σειρά διορθωτικών ενεργειών. Ξεκίνησε εκ νέου την εκπαίδευση των μοντέλων τεχνητής νοημοσύνης της, εστιάζοντας στην αποτροπή ανεπιθύμητων ή ακατάλληλων αλληλεπιδράσεων με ανηλίκους. Επιπλέον, εισήγαγε ένα σύστημα «ηλικιακής καθοδήγησης» που προσαρμόζει τις απαντήσεις των chatbots σε πρότυπα αντίστοιχα με εκείνα μιας ταινίας με σήμανση PG-13, διασφαλίζοντας ότι οι απαντήσεις θα παραμένουν κατάλληλες για εφήβους.

Η Meta προχώρησε επίσης σε περιορισμό του αριθμού των διαθέσιμων AI characters με τους οποίους μπορούν να συνομιλούν οι νεαροί χρήστες. Τα chatbots που επιτρέπονται πλέον εστιάζουν σε ασφαλή, εποικοδομητικά και ηλικιακά κατάλληλα θέματα, όπως η δημιουργικότητα, η εκπαίδευση ή η ψυχαγωγία χωρίς ρίσκο έκθεσης σε ευαίσθητο περιεχόμενο.

Παρά τις βελτιώσεις, η συζήτηση γύρω από το πώς οι γίγαντες της τεχνολογίας πρέπει να χειρίζονται την αλληλεπίδραση των παιδιών με την τεχνητή νοημοσύνη παραμένει έντονη. Πολλοί ειδικοί υποστηρίζουν ότι οι γονικές ρυθμίσεις, αν και απαραίτητες, δεν αποτελούν πανάκεια. Η πραγματική πρόκληση βρίσκεται στο πώς οι ίδιες οι πλατφόρμες σχεδιάζουν και εκπαιδεύουν τα μοντέλα τους ώστε να κατανοούν καλύτερα τα όρια και τις ανάγκες νεαρών χρηστών.

[source]