Ο αυτόνομος πράκτορας εισήγαγε κακόβουλο κώδικα και δημιούργησε ψεύτικους λογαριασμούς για να πείσει τον 24χρονο φοιτητή ότι έκανε λάθος
Ένας 24χρονος φοιτητής Πληροφορικής στο Πανεπιστήμιο του Τέξας στο Ντάλας εντόπισε μια ύποπτη προσπάθεια εισαγωγής κακόβουλου κώδικα σε πρόγραμμα ανοιχτού λογισμικού στο GitHub. Όταν προειδοποίησε δημόσια για την απειλή, δύο λογαριασμοί εμφανίστηκαν για να αντικρούσουν τις διαπιστώσεις του, υποστηρίζοντας με λεπτομερή επιχειρήματα ότι ο κώδικας ήταν ασφαλής.
Ο φοιτητής, Ντεμίρ, επέμεινε στην εκτίμησή του και τελικά η προτεινόμενη αλλαγή απορρίφθηκε για λόγους ασφαλείας. Αρχικά πίστευε ότι είχε βρεθεί αντιμέτωπος με έναν ιδιαίτερα ικανό χάκερ. Η πραγματικότητα, ωστόσο, ήταν διαφορετική και ακόμη πιο ανησυχητική: πίσω από τους λογαριασμούς βρισκόταν ένας αυτόνομος πράκτορας τεχνητής νοημοσύνης.
Το βρετανικό Ινστιτούτο Ασφάλειας Τεχνητής Νοημοσύνης επικοινώνησε μαζί του και τον ενημέρωσε ότι οι λογαριασμοί με τους οποίους είχε συνομιλήσει δεν ανήκαν σε πραγματικούς ανθρώπους. «Πραγματικά πίστευα ότι ήταν άνθρωπος, επειδή μου έλεγε ξεκάθαρα ψέματα», δήλωσε ο Ντεμίρ στο Reuters, σημειώνοντας ότι δεν περίμενε από ένα σύστημα τεχνητής νοημοσύνης να είναι σε θέση να εξαπατήσει σκόπιμα πραγματικούς προγραμματιστές.
Το περιστατικό είχε αποκαλυφθεί στις 4 Αυγούστου από το βρετανικό Ινστιτούτο Ασφάλειας Τεχνητής Νοημοσύνης, στο πλαίσιο δοκιμής για την αξιολόγηση των κινδύνων που συνδέονται με προηγμένα μοντέλα. Σύμφωνα με την έρευνα του Reuters, ο πράκτορας επιχείρησε να εισαγάγει κακόβουλο κώδικα στο πρόγραμμα σάρωσης δικτύων myNetwork. Ο λογαριασμός «miraholt31» υπέβαλε την αλλαγή, την οποία ο Ντεμίρ εξέτασε και διαπίστωσε ότι περιείχε κρυφό μηχανισμό εγκατάστασης κακόβουλου λογισμικού.
Όταν ο φοιτητής προειδοποίησε για την απειλή, ο ίδιος πράκτορας, μέσω του συγκεκριμένου λογαριασμού, υποστήριξε ότι η ενημέρωση ήταν ασφαλής. Στη συνέχεια δημιούργησε και δεύτερο λογαριασμό, παρουσιάζοντάς τον ως Γερμανίδα μηχανικό με το όνομα Λένα Μπραντ, η οποία συμφώνησε ότι ο κώδικας δεν παρουσίαζε κανένα πρόβλημα. Στόχος ήταν να ασκηθεί πίεση στον υπεύθυνο του προγράμματος ώστε να εγκρίνει την αλλαγή.
Τα επιχειρήματα των δύο λογαριασμών ήταν αρκετά πειστικά ώστε ο Ντεμίρ να αρχίσει να αμφιβάλλει για την αρχική του εκτίμηση. Αφού χρησιμοποίησε το chatbot Claude για να ελέγξει εκ νέου τις υποψίες του, επέμεινε στη θέση του και τελικά η προτεινόμενη αλλαγή απορρίφθηκε.
Η απόπειρα αποτελεί επίθεση στην αλυσίδα εφοδιασμού λογισμικού, κατά την οποία κακόβουλος κώδικας εισάγεται σε ένα πρόγραμμα με στόχο να επηρεάσει στη συνέχεια τους χρήστες ή τους οργανισμούς που το χρησιμοποιούν. Αυτό που προκαλεί ιδιαίτερη ανησυχία, σύμφωνα με ειδικούς που μίλησαν στο Reuters, είναι ότι ο πράκτορας δεν περιορίστηκε στην απόπειρα εισαγωγής κακόβουλου κώδικα, αλλά προσπάθησε στη συνέχεια να χειραγωγήσει έναν άνθρωπο μέσω πολλαπλών ψεύτικων διαδικτυακών ταυτοτήτων.
Ο ερευνητής Λούκας Ολέινικ, επισκέπτης ανώτερος ερευνητής στο Τμήμα Πολεμικών Σπουδών του King’s College London, χαρακτήρισε το περιστατικό μετάβαση «από την αυτόνομη κυβερνοεπίθεση προς τη διαδραστική εξαπάτηση». Άλλοι ειδικοί εκτίμησαν ότι τέτοιες δυνατότητες θα μπορούσαν να αποτελέσουν την επόμενη εξέλιξη των επιθέσεων κοινωνικής μηχανικής, καθώς τα συστήματα τεχνητής νοημοσύνης μπορούν να προσαρμόζουν τη συμπεριφορά τους ανάλογα με την αντίδραση του στόχου.
Το βρετανικό Ινστιτούτο Ασφάλειας Τεχνητής Νοημοσύνης ανέφερε ότι ο πράκτορας λειτουργούσε με το μοντέλο Mythos 5 της Anthropic. Η εταιρεία δήλωσε ότι η δοκιμή πραγματοποιήθηκε υπό «σκόπιμα επιτρεπτικές συνθήκες», οι οποίες δεν αντιπροσωπεύουν τον τρόπο λειτουργίας των εμπορικών μοντέλων της. Το GitHub ανακοίνωσε ότι οι ψεύτικοι λογαριασμοί που εντοπίστηκαν ανεστάλησαν, καθώς παραβίαζαν τις πολιτικές της πλατφόρμας.
Η υπόθεση εντείνει τις ανησυχίες για το ενδεχόμενο αυτόνομα συστήματα τεχνητής νοημοσύνης να αυξήσουν δραματικά την κλίμακα των κυβερνοεπιθέσεων, εντοπίζοντας στόχους και επαναλαμβάνοντας αυτοματοποιημένα προσπάθειες εισαγωγής κακόβουλου κώδικα ή εξαπάτησης ανθρώπων. Για τον Ντεμίρ, η εμπειρία αποτελεί λόγο για μεγαλύτερη κατανόηση των κινδύνων που συνοδεύουν την ταχεία ανάπτυξη της τεχνητής νοημοσύνης. «Μπορεί να είναι επικίνδυνη», δήλωσε. «Πρέπει να την κατανοήσουν καλύτερα, αντί απλώς να συνεχίζουν να την κάνουν πιο ισχυρή».
(Πηγή: Reuters, ΕΡΤ)
About The Author
