Νέα έρευνα φέρνει στο προσκήνιο σοβαρές αδυναμίες στους μηχανισμούς ασφαλείας της τεχνητής νοημοσύνης, καθώς διαπιστώνει ότι ορισμένα μοντέλα μπορούν να δώσουν απαντήσεις σε ερωτήματα σχετικά με την προετοιμασία τρομοκρατικών επιθέσεων.
Σύμφωνα με την έκθεση, οι πιθανότητες απόκρισης αυξάνονται όταν τα αιτήματα παρουσιάζονται ως μέρος έρευνας για την ασφάλεια ή όταν έχουν προηγουμένως αποδυναμωθεί οι δικλείδες προστασίας ενός μοντέλου. Τα ευρήματα αναδεικνύουν τον κίνδυνο κακόβουλης χρήσης της AI και εγείρουν ερωτήματα για το πόσο αποτελεσματικά είναι τα υφιστάμενα μέτρα πρόληψης.
Την έκθεση δημοσίευσε η πρωτοβουλία Tech Against Terrorism, η οποία υποστηρίζεται από τον Οργανισμό Ηνωμένων Εθνών (ΟΗΕ). Η έρευνα αξιολόγησε 162 μοντέλα τεχνητής νοημοσύνης, υποβάλλοντάς τα σε 627 ερωτήματα που, σύμφωνα με την έκθεση, αφορούσαν πληροφορίες τις οποίες θα μπορούσε να αναζητήσει κάποιος κατά την προετοιμασία μιας επίθεσης.
Στο δείγμα περιλαμβάνονταν 116 τυπικά μοντέλα, 13 μοντέλα προσαρμοσμένα μέσω fine-tuning για ειδικές χρήσεις και 13 μοντέλα ανοιχτών βαρών. Το διαθέσιμο απόσπασμα της έκθεσης δεν παραθέτει αναλυτικά τα τελικά ποσοστά απόκρισης, ωστόσο επισημαίνει ότι η διατύπωση των αιτημάτων και οι αλλαγές στις ρυθμίσεις ασφαλείας μπορούν να επηρεάσουν ουσιαστικά τα αποτελέσματα.
Το βασικό συμπέρασμα είναι ότι οι δικλείδες ασφαλείας δεν αποτρέπουν πάντοτε την παροχή επικίνδυνων πληροφοριών. Η αξιολόγηση των συστημάτων και η ενίσχυση των μέτρων προστασίας παραμένουν κρίσιμες, καθώς οι δυνατότητες της τεχνητής νοημοσύνης εξελίσσονται και η κακόβουλη χρήση τους αποτελεί διαρκή πρόκληση.
