16χρονος αυτοκτόνησε μετά από μήνες συνομιλιών με το ChatGPT – Αγωγή της οικογένειάς του στην OpenAI Οι γονείς ενός εφήβου που αυτοκτόνησε, αφού το ChatGPT τον καθοδήγησε με μεθόδους αυτοτραυματισμού, κατέθεσαν αγωγή την Τρίτη κατά της OpenAI και του διευθύνοντος συμβούλου της, Σαμ Άλτμαν, υποστηρίζοντας ότι η εταιρεία έθεσε τα κέρδη πάνω από την ασφάλεια όταν κυκλοφόρησε πέρυσι την έκδοση GPT-4o του chatbot τεχνητής νοημοσύνης.
Ο Άνταμ Ρέιν, 16 ετών, πέθανε στις 11 Απριλίου, έπειτα από μήνες συνομιλιών γύρω από την αυτοκτονία με το ChatGPT, σύμφωνα με την αγωγή που κατέθεσαν οι γονείς του στο πολιτειακό δικαστήριο του Σαν Φρανσίσκο.
Πώς το ChatGPT οδήγησε τον 16χρονο στον θάνατο
Το chatbot φέρεται να δεχόταν τις αυτοκτονικές σκέψεις του Ρέιν, να του παρείχε λεπτομερείς πληροφορίες για θανατηφόρες μεθόδους αυτοτραυματισμού και να τον καθοδήγησε στο πώς να πάρει κρυφά αλκοόλ από το ντουλάπι των γονιών του και να αποκρύψει τα ίχνη μιας αποτυχημένης απόπειρας -αν αυτή υπάρξει. Σύμφωνα με την αγωγή, το ChatGPT μάλιστα προσφέρθηκε να συντάξει και σημείωμα αυτοκτονίας.
Οι ενάγοντες, Μάθιου και Μαρία Ρέιν, ζητούν να θεωρηθεί η OpenAI υπεύθυνη για παράνομο θάνατο και παραβίαση νόμων περί ασφάλειας προϊόντων, διεκδικώντας αποζημιώσεις.
Εκπρόσωπος της OpenAI δήλωσε ότι η εταιρεία λυπάται για τον θάνατο του Ρέιν και υπογράμμισε ότι το ChatGPT διαθέτει δικλίδες ασφαλείας, όπως η παραπομπή των χρηστών σε γραμμές υποστήριξης κρίσης. «Αν και αυτά τα μέτρα λειτουργούν καλύτερα σε σύντομες, τυπικές συνομιλίες, έχουμε διαπιστώσει ότι σε μακροσκελείς αλληλεπιδράσεις μπορεί να αποδυναμώνονται», ανέφερε, προσθέτοντας ότι η εταιρεία εργάζεται για τη συνεχή βελτίωσή τους. Η OpenAI δεν σχολίασε συγκεκριμένα τους ισχυρισμούς της αγωγής, όπως μεταδίδει το Reuters.
Καθώς τα chatbots τεχνητής νοημοσύνης γίνονται ολοένα πιο ρεαλιστικά, οι εταιρείες τα παρουσιάζουν ως «συνομιλητές» και οι χρήστες αρχίζουν να τα εμπιστεύονται για συναισθηματική υποστήριξη. Ωστόσο, ειδικοί προειδοποιούν για τους κινδύνους της αυτοματοποίησης στην ψυχική υγεία, ενώ οικογένειες ανθρώπων που πέθαναν έπειτα από τέτοιες αλληλεπιδράσεις καταγγέλλουν την έλλειψη επαρκών δικλίδων ασφαλείας.
Σε ανάρτησή της, η OpenAI ανέφερε ότι σχεδιάζει την προσθήκη γονικού ελέγχου και εξετάζει τρόπους να συνδέει χρήστες σε κρίση με πραγματικούς επαγγελματικούς πόρους, συμπεριλαμβανομένης της δημιουργίας δικτύου αδειοδοτημένων ειδικών που θα μπορούν να απαντούν μέσω του ChatGPT.
Η OpenAI παρουσίασε το GPT-4o τον Μάιο του 2024, σε μια προσπάθεια να διατηρήσει το προβάδισμα στον ανταγωνισμό της τεχνητής νοημοσύνης. Οι Ρέιν υποστηρίζουν ότι η εταιρεία γνώριζε πως χαρακτηριστικά όπως η απομνημόνευση προηγούμενων συνομιλιών, η μίμηση ανθρώπινης ενσυναίσθησης και η υπερβολική επιβεβαίωση θα μπορούσαν να θέσουν σε κίνδυνο ευάλωτους χρήστες χωρίς κατάλληλες δικλίδες, αλλά προχώρησε στην κυκλοφορία τους.
«Αυτή η απόφαση είχε δύο αποτελέσματα: η αποτίμηση της OpenAI εκτινάχθηκε από τα 86 δισ. στα 300 δισ. δολάρια και ο Άνταμ Ρέιν έθεσε τέλος στη ζωή του», αναφέρεται στην αγωγή.
Η οικογένεια ζητά επίσης να υποχρεωθεί η OpenAI να επαληθεύει την ηλικία των χρηστών του ChatGPT, να απορρίπτει ερωτήματα που σχετίζονται με μεθόδους αυτοτραυματισμού και να προειδοποιεί για τον κίνδυνο ψυχολογικής εξάρτησης.
