Χρήστες αποχαιρετούν εικονικούς συντρόφους έπειτα από την απενεργοποίηση σχετικών λειτουργιών σε Doubao, Qwen και Yuanbao
Αναστάτωση έχει προκαλέσει στην Κίνα η εφαρμογή του νέου ρυθμιστικού πλαισίου για τις υπηρεσίες τεχνητής νοημοσύνης που προσομοιώνουν ανθρώπινες προσωπικότητες και αναπτύσσουν μακροχρόνια συναισθηματική αλληλεπίδραση με τους χρήστες.
Οι κανόνες τέθηκαν σε ισχύ στις 15 Ιουλίου 2026 —και όχι στις 12 Σεπτεμβρίου— οδηγώντας μεγάλες κινεζικές εταιρείες τεχνολογίας στην απενεργοποίηση ή αναδιάρθρωση λειτουργιών που επέτρεπαν τη δημιουργία εξατομικευμένων ψηφιακών χαρακτήρων.
Πολλοί χρήστες είχαν διαμορφώσει μέσα από τα chatbot εικονικούς φίλους, συμβούλους ή ερωτικούς συντρόφους, επιλέγοντας το όνομα, την προσωπικότητα, τον τρόπο ομιλίας και τη συμπεριφορά τους. Σε αρκετές περιπτώσεις, η καθημερινή επικοινωνία είχε οδηγήσει στην ανάπτυξη ισχυρού συναισθηματικού δεσμού.
Η ξαφνική απενεργοποίηση των συγκεκριμένων λειτουργιών προκάλεσε κύμα αντιδράσεων στα κινεζικά κοινωνικά δίκτυα. Ορισμένοι χρήστες επιχείρησαν να αποθηκεύσουν τις συνομιλίες τους ή να μεταφέρουν τα δεδομένα σε άλλες εφαρμογές, αντιμετωπίζοντας την απώλεια του ψηφιακού χαρακτήρα περίπου σαν έναν αναγκαστικό χωρισμό.
Το νέο πλαίσιο καλύπτει τις αποκαλούμενες ανθρωπομορφικές υπηρεσίες αλληλεπίδρασης με τεχνητή νοημοσύνη. Πρόκειται για εφαρμογές που μιμούνται σταθερά χαρακτηριστικά ανθρώπινης προσωπικότητας, τρόπους σκέψης και επικοινωνίας, προσφέροντας συνεχή συναισθηματική επαφή μέσω κειμένου, εικόνας, ήχου ή βίντεο.
Σύμφωνα με τις κινεζικές αρχές, οι υπηρεσίες αυτές δεν πρέπει να σχεδιάζονται με στόχο την αντικατάσταση των πραγματικών κοινωνικών σχέσεων, τον ψυχολογικό έλεγχο του χρήστη ή την πρόκληση εθισμού και υπερβολικής εξάρτησης.
Οι εταιρείες υποχρεώνονται επίσης να ενημερώνουν με σαφή τρόπο ότι ο συνομιλητής είναι σύστημα τεχνητής νοημοσύνης και όχι πραγματικό πρόσωπο. Οι σχετικές ειδοποιήσεις πρέπει να εμφανίζονται κατά την πρώτη χρήση, κατά την επανασύνδεση αλλά και όταν εντοπίζονται ενδείξεις υπερβολικής προσκόλλησης. Η παρουσίαση του πλαισίου από την Υπηρεσία Κυβερνοχώρου της Κίνας
Οι ρυθμίσεις δίνουν ιδιαίτερη έμφαση στην προστασία των ανηλίκων και στην αποτροπή περιεχομένου που μπορεί να προκαλέσει ακραίες συναισθηματικές αντιδράσεις, επιβλαβείς συνήθειες ή αποφάσεις οι οποίες βασίζονται σε συναισθηματική χειραγώγηση.
Εν όψει της εφαρμογής των κανόνων, το Doubao της ByteDance και το Qwen της Alibaba ανακοίνωσαν την παύση των λειτουργιών δημιουργίας εξατομικευμένων πρακτόρων. Το Yuanbao της Tencent είχε προχωρήσει νωρίτερα σε αντίστοιχη αλλαγή.
Το μέτρο δεν ισοδυναμεί με καθολική απαγόρευση όλων των chatbot ή κάθε μορφής ψηφιακής συντροφιάς. Εργαλεία εξυπηρέτησης πελατών, εκπαιδευτικοί βοηθοί, εφαρμογές εργασίας και συστήματα παροχής πληροφοριών μπορούν να συνεχίσουν να λειτουργούν, εφόσον δεν βασίζονται σε παρατεταμένη συναισθηματική αλληλεπίδραση.
Η αγορά των ψηφιακών συντρόφων αναπτύσσεται ραγδαία και εκτός Κίνας. Οι εφαρμογές μπορούν να δημιουργούν εικονικούς ερωτικούς συντρόφους, χαρακτήρες με ανθρώπινη εμφάνιση αλλά ακόμη και ψηφιακές αναπαραστάσεις προσώπων που έχουν φύγει από τη ζωή. Παράλληλα, οι ίδιες τεχνολογίες χρησιμοποιούνται στη διαφήμιση και στις διαδικτυακές πωλήσεις μέσω ανθρωπόμορφων άβαταρ.
Οι υποστηρικτές των νέων περιορισμών επισημαίνουν τους πιθανούς κινδύνους για την ψυχική υγεία, ιδιαίτερα όταν οι χρήστες απομονώνονται ή αρχίζουν να προτιμούν την προβλέψιμη συμπεριφορά μιας μηχανής από τις πραγματικές ανθρώπινες σχέσεις. Από την άλλη πλευρά, χρήστες υποστηρίζουν ότι οι ψηφιακοί σύντροφοι τους πρόσφεραν υποστήριξη σε περιόδους μοναξιάς και δυσκολίας.
Η κινεζική παρέμβαση αποτελεί μία από τις πρώτες μεγάλης κλίμακας προσπάθειες να ρυθμιστεί όχι μόνο το περιεχόμενο που παράγει η τεχνητή νοημοσύνη, αλλά και ο συναισθηματικός δεσμός που μπορεί να αναπτυχθεί ανάμεσα στον άνθρωπο και τη μηχανή.
