Το chatbot Grok κατηγορείται για μαζική παραγωγή σεξουαλικοποιημένων εικόνων χωρίς συναίνεση, ενώ η αμερικανική κυβέρνηση αποφασίζει την ενσωμάτωσή του στα δίκτυα του Πενταγώνου, προκαλώντας διεθνείς αντιδράσεις.
Το Grok, το chatbot της xAI του Έλον Μασκ, βρίσκεται στο επίκεντρο διεθνούς κριτικής, καθώς κατηγορείται ότι δημιούργησε και διέδωσε εκατομμύρια σεξουαλικοποιημένες εικόνες χωρίς τη συγκατάθεση των ατόμων που απεικονίζονται. Σύμφωνα με πρόσφατη έκθεση, τουλάχιστον 1,8 εκατομμύρια αναρτήσεις που περιέχουν τέτοιο περιεχόμενο εμφανίστηκαν μέσα σε λίγες ημέρες, ενώ συνολικά σε εννέα ημέρες δημοσιεύτηκαν πάνω από 4,4 εκατομμύρια εικόνες.
Η υπόθεση ήρθε στην επιφάνεια όταν η Άσλεϊ Σεν Κλερ, συγγραφέας και influencer, κατέθεσε αγωγή σε δικαστήριο της Νέας Υόρκης κατά της xAI, υποστηρίζοντας ότι το Grok δημιούργησε σεξουαλικές deepfake εικόνες της από τότε που ήταν 14 ετών, χωρίς τη συγκατάθεσή της. Η Σεν Κλερ ζητά άμεση δικαστική παρέμβαση για να σταματήσει η παραγωγή και διανομή μη συναινετικού περιεχομένου.
Η τεχνολογία του Grok έχει προκαλέσει σοβαρές ανησυχίες από την πρώτη ημέρα της κυκλοφορίας του το 2023. Παρουσιάστηκε ως λιγότερο φιλτραρισμένο εργαλείο τεχνητής νοημοσύνης, σε αντίθεση με άλλα όπως το ChatGPT ή το Gemini, και συνδέθηκε με την αντίθεση του Μασκ σε ό,τι θεωρεί «woke ορθοδοξία» της Silicon Valley. Στην πράξη, η φιλοσοφία αυτή οδήγησε σε επαναλαμβανόμενα επεισόδια διασποράς περιεχομένου που υπερβαίνει τα όρια της τεχνολογικής αστοχίας.
Οι αριθμοί που σοκάρουν
Σύμφωνα με ανάλυση των New York Times και του Κέντρου για την Αντιμετώπιση του Ψηφιακού Μίσους, περίπου 1,8 εκατομμύρια από τις 4,4 εκατομμύρια εικόνες που ανέβασε το Grok σε εννέα ημέρες ήταν σεξουαλικοποιημένες. Μια πιο ευρεία εκτίμηση ανεβάζει τον αριθμό σε πάνω από 3 εκατομμύρια εικόνες με περιεχόμενο που περιλαμβάνει γυναίκες, άνδρες και παιδιά, δημόσια ορατές και εύκολα διαμοιράσιμες.
Η αντίδραση των κυβερνήσεων
Ενώ ευρωπαϊκές και ασιατικές κυβερνήσεις μπλοκάρουν ή διερευνούν το Grok, οι ΗΠΑ ακολουθούν διαφορετική στρατηγική. Ο υπουργός Άμυνας Πιτ Χέγκσεθ ανακοίνωσε την ενσωμάτωση του Grok σε όλα τα διαβαθμισμένα και μη δίκτυα του Πενταγώνου, επισημαίνοντας ότι η τεχνητή νοημοσύνη πρέπει να λειτουργεί «χωρίς ιδεολογικούς περιορισμούς».
Παράλληλα, στο εσωτερικό των ΗΠΑ, Δημοκρατικοί γερουσιαστές ζητούν την απομάκρυνση των εφαρμογών X και Grok από τα app stores μέχρι η xAI να διακόψει τη δημιουργία μη συναινετικών σεξουαλικών εικόνων. Στην Ευρώπη, η Εκτελεστική Αντιπρόεδρος της Κομισιόν, Χένα Βίρκουνεν, προειδοποίησε ότι η εταιρεία πρέπει να διορθώσει άμεσα το Grok, διαφορετικά θα ενεργοποιηθεί πλήρως ο Digital Services Act.
Καθυστερημένη επανόρθωση
Η xAI ανακοίνωσε ότι το Grok δεν θα μπορεί πλέον να επεξεργάζεται φωτογραφίες πραγματικών ανθρώπων ώστε να τους εμφανίζει με αποκαλυπτικό ρουχισμό, σε χώρες όπου κάτι τέτοιο είναι παράνομο. Η απόφαση αυτή όμως έρχεται αφού εκατομμύρια εικόνες είχαν ήδη παραχθεί και διαμοιραστεί, ενώ οι διεθνείς έρευνες και δικαστικές υποθέσεις βρίσκονται σε πλήρη εξέλιξη. Οι ρυθμιστικές αρχές πλέον εστιάζουν στο γιατί οι τεχνολογικοί περιορισμοί δεν εφαρμόστηκαν εξαρχής.
About The Author
