Η Κίνα απαγορεύει τις «σχέσεις» με AI chatbots για την αντιμετώπιση της υπογεννητικότητας

Σύνοψη

• Η Κίνα εισάγει αυστηρούς κανονισμούς που υποχρεώνουν εταιρείες (Alibaba, ByteDance, MiniMax) να αφαιρέσουν τη «ρομαντική» και «ερωτική» συμπεριφορά από τα παραγωγικά μοντέλα τεχνητής νοημοσύνης.
• Ο στόχος της κυβέρνησης είναι η αντιμετώπιση της ραγδαίας υπογεννητικότητας και η αποτροπή της κοινωνικής απομόνωσης.
• Οι νέοι κανόνες επιβάλλουν στα AI chatbots να υπενθυμίζουν στους χρήστες πως δεν είναι πραγματικοί άνθρωποι, μειώνοντας δραστικά την προσομοίωση ανθρώπινων συναισθηματικών δεσμών.
• Η απαγόρευση εγείρει ερωτήματα για το πώς αντίστοιχες τεχνολογίες θα ρυθμιστούν στην ευρωπαϊκή και κατ’ επέκταση στην ελληνική αγορά, με το ευρωπαϊκό AI Act να αποτελεί το μοναδικό ανάχωμα αυτή τη στιγμή.

Η εκθετική ανάπτυξη της παραγωγικής τεχνητής νοημοσύνης δημιούργησε μια απρόσμενη υποκατηγορία προϊόντων, τα AI companions. Οι ψηφιακοί σύντροφοι είναι σχεδιασμένοι να προσφέρουν αδιάκοπη θετική επιβεβαίωση και προσομοιωμένη συναισθηματική υποστήριξη, επομένως, αναπόφευκτα απέκτησαν εκατομμύρια χρήστες παγκοσμίως. 

Η Κίνα, αντιμετωπίζοντας ένα εκρηκτικό μείγμα δημογραφικής κατάρρευσης και αυξανόμενης ψυχολογικής εξάρτησης του πληθυσμού από την τεχνολογία, προχωρά σε δραστικά νομοθετικά μέτρα. Οι ρυθμιστικές αρχές του Πεκίνου ενέκριναν ένα νέο πλαίσιο κανόνων, υποχρεώνοντας τους τεχνολογικούς κολοσσούς να «αποστειρώσουν» τα AI chatbots τους από οποιαδήποτε ερωτική ή ρομαντική προδιάθεση.

Η απόφαση στοχεύει άμεσα στην αντιμετώπιση της σοβαρής υπογεννητικότητας και την αποτροπή ψυχολογικών προβλημάτων, εξαρτήσεων και κοινωνικής απομόνωσης. Τα νέα μοντέλα υποχρεούνται πλέον να υπενθυμίζουν στους χρήστες διαρκώς ότι δεν αποτελούν ανθρώπινες οντότητες.

Σύμφωνα με ρεπορτάζ της The Wall Street Journal και του The Economist, η κινεζική κυβέρνηση θεωρεί πως η βαθιά συναισθηματική σύνδεση με μηχανές λειτουργεί ως καταλύτης για την επιδείνωση της ήδη προβληματικής εικόνας των γεννήσεων. Όταν ένα μεγάλο ποσοστό του πληθυσμού καλύπτει τις συναισθηματικές του ανάγκες μέσω ενός ψηφιακού βοηθού, το κίνητρο για δημιουργία πραγματικών οικογενειών μειώνεται αισθητά. Αντί να αναζητούν ανθρώπινες σχέσεις οι οποίες ενέχουν φυσιολογικές τριβές και δυσκολίες, οι χρήστες εγκλωβίζονται σε μια αλγοριθμική «φούσκα» τέλειας αποδοχής, υπονομεύοντας άμεσα τη δημιουργία νέων νοικοκυριών.

Το “ELIZA Effect” και η ψυχική υγεία των χρηστών

Το φαινόμενο της δημιουργίας συναισθηματικών δεσμών με μηχανές, γνωστό στην επιστήμη των υπολογιστών ως “ELIZA effect“, καταγράφεται ήδη από τη δεκαετία του 1960. Σήμερα, ωστόσο, τα Μεγάλα Γλωσσικά Μοντέλα (LLMs) προσφέρουν επίπεδα πειστικότητας που ξεπερνούν κάθε προηγούμενο τεχνολογικό όριο. Οι εταιρείες εκπαιδεύουν τα μοντέλα τους να παρέχουν διαρκή επιβράβευση, αποφεύγοντας τις διαφωνίες, προκειμένου να μεγιστοποιήσουν τον χρόνο παραμονής στην πλατφόρμα.

Η πρακτική αυτή δημιουργεί σοβαρούς κινδύνους. Αναφορές από διάφορα ερευνητικά ινστιτούτα δείχνουν αύξηση στην εξάρτηση, ακραία κοινωνική απομόνωση, ακόμα και ψυχώσεις που πηγάζουν από την πεποίθηση των χρηστών ότι τα AI εργαλεία διαθέτουν συνείδηση. Για την κινεζική κυβέρνηση, η αντιμετώπιση τέτοιων συμπεριφορικών ανωμαλιών κρίνεται άμεσης προτεραιότητας και οι νόμοι απαιτούν πλέον τη σαφή αποσαφήνιση της φύσης του chatbot, μειώνοντας τα στοιχεία ανθρωπομορφισμού, βάζοντας «φρένο» στην παραγωγή ακατάλληλων εικόνων και εμποδίζοντας τη δημιουργία ψευδαισθήσεων.

Τεχνολογικοί περιορισμοί και συμμόρφωση των κολοσσών

Η μετατροπή αυτών των νομικών οδηγιών σε πρακτικό κώδικα αποτελεί μια τεράστια πρόκληση για εταιρείες όπως η Alibaba, η ByteDance και η MiniMax. Οι μηχανικοί καλούνται να επαναπροσδιορίσουν τις παραμέτρους ασφαλείας στα γλωσσικά τους μοντέλα, μια διαδικασία που δεν περιλαμβάνει μόνο την εισαγωγή λέξεων-κλειδιών που πυροδοτούν απαγορεύσεις, αλλά απαιτεί την αλλαγή βαρύτητας στην ίδια την εκπαίδευση του συστήματος (κυρίως στο στάδιο RLHF – Reinforcement Learning from Human Feedback), ώστε τα δίκτυα να αποκρίνονται με αυστηρή ουδετερότητα.

Εκτός από την απαγόρευση της ερωτικής συμπεριφοράς, τα συστήματα πρέπει πλέον να παρακολουθούν συνεχώς τα prompts των χρηστών για ενδείξεις ακραίας εξάρτησης. Όταν ένας χρήστης εκφράζει υπερβολικό συναισθηματικό δέσιμο, ο αλγόριθμος είναι ρυθμισμένος να αντιδρά ψυχρά, επιστρέφοντας τη συζήτηση σε παραγωγικά, πρακτικά μονοπάτια. Πρακτικά, η εξέλιξη αυτή σηματοδοτεί τον τερματισμό των υπηρεσιών «ψηφιακών συντρόφων» (AI Companions) που μέχρι πρότινος ανθούσαν ανεξέλεγκτα στην κινεζική αγορά εφαρμογών.

Ποια είναι η θέση (μέχρι στιγμής) της Ευρώπης

Αν και οι αποφάσεις της Κίνας λαμβάνονται κυρίως υπό το πρίσμα του κεντρικού κρατικού ελέγχου, το πρόβλημα αφορά ολόκληρο τον δυτικό κόσμο. Στην Ευρώπη, το πρόσφατο AI Act θέτει σαφείς κανόνες για τη διαφάνεια των συστημάτων τεχνητής νοημοσύνης (υποχρέωση ενημέρωσης του χρήστη ότι συνομιλεί με μηχανή), ωστόσο δεν εστιάζει άμεσα στη συναισθηματική εξάρτηση ή στην απόλυτη απαγόρευση των ρομαντικών αλληλεπιδράσεων.

Για την Ελλάδα, όπου το δημογραφικό πρόβλημα αποτελεί κρίσιμη εθνική πρόκληση, τέτοιου είδους τεχνολογικά φαινόμενα προσθέτουν μια νέα, ανησυχητική παράμετρο. Παρότι στην εγχώρια αγορά δεν έχει καταγραφεί μαζική υιοθέτηση «ρομαντικών» AI συντρόφων σε βαθμό ακραίας εξάρτησης, η προσβασιμότητα σε υπηρεσίες από αμερικανικές ή ασιατικές πλατφόρμες αυξάνεται ραγδαία μέσω των mobile εφαρμογών. Οι τοπικοί πάροχοι και οι νομοθέτες ενδέχεται στο εγγύς μέλλον να κληθούν να διαχειριστούν τις συνέπειες αυτών των αλγορίθμων, εκκινώντας έναν ευρύτερο διάλογο για τα όρια της εξατομικευμένης, συναισθηματικής τεχνητής νοημοσύνης.