Σε νομικές ενέργειες κατά της πλατφόρμας Χ και της εταιρείας τεχνητής νοημοσύνης xAI προχωρούν οι αρχές της Μαλαισία, κατηγορώντας τις δύο εταιρείες ότι απέτυχαν να προστατεύσουν επαρκώς τους χρήστες του chatbot Grok.
Η απόφαση έρχεται λίγες ημέρες μετά το μπλοκάρισμα της πρόσβασης στο Grok από τη Μαλαισία και την Ινδονησία – τις πρώτες χώρες παγκοσμίως που έλαβαν τέτοιο μέτρο – λόγω αυξανόμενων ανησυχιών ότι το εργαλείο χρησιμοποιείται για τη δημιουργία σεξουαλικά ρητού, παραποιημένου και μη συναινετικού περιεχομένου.
Η Μαλαισιανή Επιτροπή Επικοινωνιών και Πολυμέσων ανέφερε ότι εντόπισε επανειλημμένη κατάχρηση του Grok για την παραγωγή και διάδοση άσεμνου και ιδιαίτερα προσβλητικού υλικού, συμπεριλαμβανομένων εικόνων που φέρονται να αφορούν γυναίκες και παιδιά. Σύμφωνα με την ίδια ανακοίνωση, έχουν αποσταλεί ειδοποιήσεις προς την X και την xAI για άμεση αφαίρεση του επιβλαβούς περιεχομένου, χωρίς όμως – όπως υποστηρίζουν οι αρχές – να υπάρξει ουσιαστική ανταπόκριση.
«Η δημιουργία και διακίνηση τέτοιου υλικού παραβιάζει τη νομοθεσία της Μαλαισίας και έρχεται σε αντίθεση με τις δεσμεύσεις ασφάλειας που έχουν δημοσίως αναλάβει οι εταιρείες», σημειώνει η Επιτροπή, η οποία έχει ήδη ορίσει νομικό εκπρόσωπο και προανήγγειλε την άμεση έναρξη δικαστικών διαδικασιών.
Το θέμα εντάσσεται σε ένα ευρύτερο κύμα διεθνούς ελέγχου γύρω από τα εργαλεία γενετικής τεχνητής νοημοσύνης, τα οποία μπορούν να παράγουν ρεαλιστικές εικόνες, ήχο και κείμενο. Ρυθμιστικές αρχές εκφράζουν φόβους ότι τα υπάρχοντα φίλτρα δεν επαρκούν για να αποτρέψουν την κατάχρηση, ειδικά σε περιπτώσεις deepfakes και σεξουαλικοποιημένου περιεχομένου.
Το Grok, που κυκλοφόρησε το 2023 και είναι ενσωματωμένο στην πλατφόρμα X, απέκτησε πέρυσι λειτουργία δημιουργίας εικόνων (Grok Imagine), η οποία περιλάμβανε και επιλογές παραγωγής περιεχομένου ενηλίκων. Το εργαλείο έχει δεχθεί σφοδρή κριτική για εικόνες που παρουσιάζουν γυναίκες σε σεξουαλικά υπονοούμενες στάσεις ή ακόμη και παραποιημένες απεικονίσεις παιδιών.
Πιέσεις για αυστηρότερη ρύθμιση δέχεται το Grok και σε άλλες περιοχές, όπως η Ευρωπαϊκή Ένωση, η Ινδία και το Ηνωμένο Βασίλειο. Μάλιστα, το Λονδίνο ανακοίνωσε πρόσφατα την ποινικοποίηση των λεγόμενων «nudification apps», ενώ ο βρετανικός ρυθμιστής μέσων ενημέρωσης διερευνά εάν το Grok παραβίασε τη νομοθεσία επιτρέποντας τη διακίνηση σεξουαλικοποιημένων εικόνων ανηλίκων.
Υπό το βάρος της παγκόσμιας κατακραυγής, η xAI περιόρισε την πρόσβαση στις λειτουργίες δημιουργίας και επεξεργασίας εικόνων μόνο σε συνδρομητές. Ωστόσο, επικριτές υποστηρίζουν ότι τα μέτρα αυτά δεν αντιμετωπίζουν πλήρως το πρόβλημα.
Ο Έλον Μασκ και οι εταιρείες του δεν έχουν σχολιάσει επισήμως τους περιορισμούς στη Νοτιοανατολική Ασία. Σε αιτήματα δημοσιογράφων, η xAI φέρεται να απαντά αυτοματοποιημένα με τη φράση: «Legacy Media Lies».
