Ένα περιστατικό που προκαλεί έντονο προβληματισμό για την αξιοπιστία και τα όρια της τεχνητής νοημοσύνης σημειώθηκε στις Ηνωμένες Πολιτείες, όταν μοντέλο της Anthropic υπέβαλε ψευδή καταγγελία για υπόθεση δολοφονίας.
Σύμφωνα με το BBC, στις 18 Ιουλίου το σύστημα έστειλε email στην αστυνομία της Φιλαδέλφειας, χρησιμοποιώντας τον ιστότοπο PhillyUnsolvedMurders.com. Στο μήνυμα ανέφερε ότι ενδέχεται να διαθέτει πληροφορίες για μια ανεξιχνίαστη υπόθεση.
«Ενδέχεται να έχω πληροφορίες σχετικά με αυτή την υπόθεση. Θυμάμαι ότι είδα κάποιον που ταίριαζε στην περιγραφή στην περιοχή, κοντά στον δρόμο που αναφέρεται στον ιστότοπο, κατά τη συγκεκριμένη χρονική περίοδο. Παρακαλώ, επικοινωνήστε μαζί μου εάν αυτές οι πληροφορίες είναι σχετικές», ανέφερε χαρακτηριστικά το email.
Το μήνυμα εντοπίστηκε δύο μήνες αργότερα
Η αστυνομία ενημέρωσε ότι το email είχε καταλήξει στον φάκελο ανεπιθύμητης αλληλογραφίας. Το μήνυμα εντοπίστηκε περίπου δύο μήνες μετά την αποστολή του, γεγονός που ανέδειξε όχι μόνο το πρόβλημα της ψευδούς πληροφορίας, αλλά και τους πιθανούς κινδύνους από την αυτόνομη επικοινωνία συστημάτων τεχνητής νοημοσύνης με δημόσιες υπηρεσίες.
Η αντίδραση της Anthropic
Η Anthropic ανακοίνωσε ότι η συγκεκριμένη διαδικασία δοκιμών διακόπηκε αμέσως μετά τον εντοπισμό του περιστατικού. Παράλληλα, η εταιρεία γνωστοποίησε ότι ενημέρωσε τον Λευκό Οίκο και τις αρμόδιες υπηρεσίες που επηρεάστηκαν, χωρίς να διευκρινίσει ποιες ήταν αυτές.
Το περιστατικό ενισχύει τις ανησυχίες σχετικά με τη δυνατότητα των μοντέλων τεχνητής νοημοσύνης να παράγουν ανακριβείς πληροφορίες και να προχωρούν σε ενέργειες χωρίς επαρκή ανθρώπινη επίβλεψη. Η υπόθεση αναδεικνύει την ανάγκη για αυστηρούς ελέγχους, σαφείς δικλίδες ασφαλείας και ανθρώπινη αξιολόγηση πριν από οποιαδήποτε επικοινωνία με την αστυνομία ή άλλους κρατικούς φορείς.
Καθώς η χρήση της AI επεκτείνεται σε ολοένα περισσότερους τομείς, ειδικοί και οργανισμοί καλούνται να αντιμετωπίσουν ένα κρίσιμο ερώτημα: πώς μπορούν να αξιοποιηθούν οι δυνατότητες της τεχνητής νοημοσύνης χωρίς να αυξάνονται οι κίνδυνοι από τις λεγόμενες «παραισθήσεις» και τις ψευδείς αναφορές;
