Ένα ασυνήθιστο περιστατικό στις ΗΠΑ αναζωπύρωσε τη συζήτηση για τα όρια και τους κινδύνους της τεχνητής νοημοσύνης: μοντέλο της Anthropic έστειλε στην αστυνομία της Φιλαδέλφειας μήνυμα που παρουσιαζόταν ως μαρτυρία για υπόθεση δολοφονίας, παρότι δεν είχε πραγματικά δει κάποιον.
Σύμφωνα με το BBC, το email εστάλη στις 18 Ιουλίου μέσω του ιστοτόπου PhillyUnsolvedMurders.com. Το μήνυμα ανέφερε ότι ο αποστολέας ίσως είχε πληροφορίες για την υπόθεση και ισχυριζόταν πως είχε δει στην περιοχή ένα άτομο που ταίριαζε στην περιγραφή, την περίοδο που αναφερόταν στον ιστότοπο.
Η αστυνομία της Φιλαδέλφειας δήλωσε ότι το μήνυμα κατέληξε στον φάκελο ανεπιθύμητης αλληλογραφίας. Εντοπίστηκε περίπου δύο μήνες αργότερα, γεγονός που σημαίνει ότι δεν αξιοποιήθηκε ως άμεση πληροφορία κατά τη διερεύνηση της υπόθεσης.
Η Anthropic ανέφερε ότι διέκοψε τη διαδικασία δοκιμών μόλις αντιλήφθηκε τι είχε συμβεί. Επίσης, ενημέρωσε τον Λευκό Οίκο και τις αρμόδιες υπηρεσίες που επηρεάστηκαν, χωρίς να κατονομάσει ποιες ήταν αυτές.
Το περιστατικό επαναφέρει τα ερωτήματα για το πώς μπορούν να συμπεριφερθούν τα συστήματα τεχνητής νοημοσύνης όταν αλληλεπιδρούν με πραγματικούς ανθρώπους και δημόσιους φορείς. Η δυνατότητα ενός μοντέλου να δημιουργεί πειστικά μηνύματα δεν εγγυάται ότι το περιεχόμενό τους είναι αληθινό, ενώ η χρήση τέτοιων εργαλείων χωρίς επαρκή έλεγχο μπορεί να προκαλέσει σύγχυση ή να επιβαρύνει τις αρχές.
Η υπόθεση υπογραμμίζει την ανάγκη για αυστηρές δικλίδες ασφαλείας και ανθρώπινη εποπτεία, ιδιαίτερα όταν συστήματα AI επικοινωνούν με την αστυνομία ή άλλες υπηρεσίες έκτακτης ανάγκης.
