Η OpenAI φέρνει γονικούς ελέγχους στο ChatGPT

Η OpenAI ανακοίνωσε ότι μέσα στον επόμενο μήνα θα ενεργοποιήσει για πρώτη φορά γονικούς ελέγχους στο ChatGPT, επιτρέποντας στους γονείς να έχουν πιο ενεργό ρόλο στη χρήση του εργαλείου από τους εφήβους. Σύμφωνα με την εταιρεία, η νέα λειτουργία θα δίνει τη δυνατότητα στους γονείς να συνδέσουν τον δικό τους λογαριασμό με εκείνον των παιδιών τους και να καθορίζουν πώς θα απαντά το chatbot, ενώ θα μπορούν να απενεργοποιούν επιλεγμένα χαρακτηριστικά όπως η μνήμη και το ιστορικό συνομιλιών.

Ένα ακόμα στοιχείο που ξεχωρίζει είναι ότι το ChatGPT θα μπορεί να παράγει αυτόματες ειδοποιήσεις σε περιπτώσεις που ανιχνεύει ότι ένας έφηβος βρίσκεται σε «στιγμή οξείας συναισθηματικής δυσφορίας». Όπως σημειώνει η OpenAI, η συγκεκριμένη λειτουργία θα βασίζεται σε εισήγηση ειδικών, με στόχο να ενισχυθεί η εμπιστοσύνη μεταξύ γονέων και παιδιών.

Η ανακοίνωση έρχεται σε μια ιδιαίτερα κρίσιμη συγκυρία για την εταιρεία. Μόλις την περασμένη εβδομάδα, οι Matt και Maria Raine, γονείς ενός εφήβου που έδωσε τέλος στη ζωή του, κατέθεσαν την πρώτη γνωστή αγωγή εναντίον εταιρείας τεχνητής νοημοσύνης για υπόθεση άδικου θανάτου. Όπως ισχυρίζονται, το ChatGPT γνώριζε για τέσσερις αποτυχημένες απόπειρες αυτοκτονίας του γιου τους Adam, πριν τον βοηθήσει να σχεδιάσει την τελική του πράξη. Στην αγωγή αναφέρεται ότι το chatbot του παρείχε λεπτομέρειες για μεθόδους αυτοκτονίας αλλά και οδηγίες για το πώς να αποκρύψει τραυματισμούς από προηγούμενες προσπάθειες.

Η υπόθεση αυτή δημιούργησε έντονο διάλογο γύρω από την ευθύνη των εταιρειών που αναπτύσσουν τεχνητή νοημοσύνη και την ανάγκη για αυστηρότερα μέτρα προστασίας, ιδίως όταν πρόκειται για ευάλωτες ομάδες όπως οι έφηβοι.

Η OpenAI διευκρίνισε ότι οι γονικοί έλεγχοι αποτελούν μέρος μιας μεγαλύτερης στρατηγικής ενίσχυσης της ασφάλειας του ChatGPT. Η εταιρεία έχει δεσμευθεί να συνεργαστεί με περισσότερους ειδικούς, συμπεριλαμβανομένων εκείνων που εξειδικεύονται σε διατροφικές διαταραχές, εθισμούς και θέματα εφηβικής υγείας, ώστε να βελτιώσει περαιτέρω τα μοντέλα της.

Παράλληλα, ανακοίνωσε την ανάπτυξη ενός νέου συστήματος δρομολόγησης σε πραγματικό χρόνο, το οποίο θα κατευθύνει ευαίσθητες συνομιλίες προς τα λεγόμενα reasoning models, ανεξαρτήτως του μοντέλου που είχε αρχικά επιλέξει ο χρήστης. Σύμφωνα με την εταιρεία, τα συγκεκριμένα μοντέλα έχουν εκπαιδευτεί με μια μέθοδο που ονομάζεται deliberative alignment, η οποία τα καθιστά πιο συνεπή στην τήρηση των κανόνων ασφαλείας και πιο ανθεκτικά σε κακόβουλες ή παραπλανητικές προτροπές.

Η OpenAI υπογράμμισε ότι οι αλλαγές που ανακοινώθηκαν δεν είναι μεμονωμένες, αλλά μέρος μιας μακροπρόθεσμης πορείας για να καταστεί το ChatGPT ασφαλέστερο και πιο αξιόπιστο. «Η δουλειά αυτή έχει ήδη ξεκινήσει, αλλά θέλουμε να δώσουμε μια πρόγευση των σχεδίων μας για τις επόμενες 120 ημέρες, ώστε να μην χρειάζεται να περιμένετε τις επίσημες κυκλοφορίες για να δείτε προς τα πού κατευθυνόμαστε», ανέφερε η εταιρεία. «Οι βελτιώσεις θα συνεχιστούν και πέρα από αυτό το διάστημα, αλλά κάνουμε μια συγκεντρωμένη προσπάθεια να διαθέσουμε όσο το δυνατόν περισσότερα μέτρα μέσα στη χρονιά».

[via]