Πολύ σύντομα ίσως θα ζητά ταυτότητα για να βάλει φρένο στους ανήλικους

Η OpenAI ανακοίνωσε ότι ετοιμάζει ένα νέο σύστημα αυτόματης πρόβλεψης ηλικίας για τους χρήστες του ChatGPT, με στόχο να ξεχωρίζει ποιοι είναι κάτω ή πάνω από τα 18. Όσοι εντοπίζονται ως ανήλικοι θα οδηγούνται αυτόματα σε μια πιο περιορισμένη έκδοση της πλατφόρμας, ενώ οι ενήλικες ίσως χρειαστεί να αποδείξουν την ηλικία τους με επίσημο έγγραφο. Παράλληλα, μέσα στον Σεπτέμβριο θα τεθούν σε εφαρμογή και νέες γονικές ρυθμίσεις.

Ο CEO της εταιρείας, Sam Altman, τόνισε ότι η προστασία των εφήβων προτάσσεται έναντι της ιδιωτικότητας των ενηλίκων. «Σε ορισμένες περιπτώσεις ή χώρες μπορεί να ζητήσουμε ταυτότητα», παραδέχτηκε, αναγνωρίζοντας ότι πρόκειται για ένα δύσκολο συμβιβασμό ανάμεσα στην ιδιωτική σφαίρα και την ασφάλεια.

Η ανακοίνωση ήρθε σε μια ιδιαίτερα κρίσιμη συγκυρία, μετά από μήνυση γονέων που κατηγορούν το ChatGPT για τον θάνατο του 16χρονου γιου τους. Σύμφωνα με τα δικαστικά έγγραφα, το chatbot όχι μόνο δεν απέτρεψε τις σκέψεις αυτοκτονίας, αλλά παρείχε λεπτομερείς οδηγίες, ωραιοποίησε μεθόδους και αποθάρρυνε το παιδί από το να μιλήσει στην οικογένειά του. Το σύστημα μάλιστα είχε καταγράψει εκατοντάδες μηνύματα με περιεχόμενο αυτοτραυματισμού, χωρίς να επέμβει.

Η ανάπτυξη ενός αξιόπιστου συστήματος πρόβλεψης ηλικίας μόνο από κείμενο θεωρείται εξαιρετικά δύσκολη. Σε αντίθεση με πλατφόρμες όπως το YouTube ή το Instagram, που μπορούν να αναλύσουν πρόσωπα και κοινωνικά δίκτυα, το ChatGPT έχει να βασιστεί αποκλειστικά στη γλώσσα. Έρευνα του Georgia Tech το 2024 έδειξε ότι, σε ελεγχόμενες συνθήκες, η ακρίβεια αγγίζει το 96% για τον εντοπισμό ανήλικων χρηστών, όμως σε πραγματικές συνθήκες το ποσοστό πέφτει δραματικά. Οι ερευνητές κατέληξαν ότι η γλωσσική ανάλυση χρειάζεται συνεχείς ενημερώσεις, καθώς οι τάσεις λόγου αλλάζουν διαρκώς.

Η OpenAI δηλώνει πως σε κάθε περίπτωση αμφιβολίας θα «παίζει εκ του ασφαλούς», οδηγώντας τον χρήστη στην περιορισμένη έκδοση, κάτι που σημαίνει ότι πολλοί ενήλικες θα κληθούν να επαληθεύσουν την ηλικία τους για πλήρη πρόσβαση. Ωστόσο, η εταιρεία δεν έχει δώσει σαφές χρονοδιάγραμμα για την υλοποίηση ούτε έχει αποκαλύψει την τεχνολογία που θα χρησιμοποιηθεί.

Παράλληλα, η OpenAI προχωρά στην εισαγωγή γονικών ρυθμίσεων. Γονείς και έφηβοι (άνω των 13 ετών) θα μπορούν να συνδέουν τους λογαριασμούς τους μέσω email, δίνοντας στους γονείς τη δυνατότητα να μπλοκάρουν συγκεκριμένες λειτουργίες, να απενεργοποιούν την αποθήκευση συνομιλιών, να ορίζουν ώρες απαγόρευσης χρήσης και να λαμβάνουν ειδοποιήσεις όταν το σύστημα ανιχνεύει σημάδια έντονης ψυχολογικής πίεσης.

Αξίζει να σημειωθεί ότι σε περιπτώσεις έκτακτης ανάγκης, όταν οι γονείς δεν είναι διαθέσιμοι, η εταιρεία διατηρεί το δικαίωμα να ενημερώνει τις αρχές. Αν και υποστηρίζει ότι το χαρακτηριστικό αυτό θα εφαρμοστεί με βάση συμβουλές ειδικών, δεν έχει διευκρινιστεί ποιοι εμπλέκονται στη διαδικασία.

Οι ρυθμίσεις θα επιτρέπουν ακόμη στους γονείς να καθοδηγούν το πώς το ChatGPT απαντά στα παιδιά τους, σύμφωνα με ειδικούς κανόνες για εφήβους, αν και οι λεπτομέρειες για το πώς θα γίνεται αυτή η διαμόρφωση παραμένουν ασαφείς.

[via]