Σε μια απρόσμενη εξέλιξη για τον χώρο της τεχνητής νοημοσύνης, ομάδα ερευνητών κατάφερε να παρεισφρήσει στα συστήματα της OpenAI χρησιμοποιώντας τεχνολογία της αντιπάλου, της Anthropic. Η επιδρομή πραγματοποιήθηκε από την νεοφυή εταιρεία κυβερνοασφάλειας Hacktron AI και αποκαλύφθηκε σε σχετική δημοσίευση της start-up.
Η παρείσφρηση, που έγινε στα τέλη Ιουλίου και επιβεβαιώθηκε από την OpenAI στο Γαλλικό Πρακτορείο, δεν ήταν αυθαίρετη επίθεση αλλά μέρος μιας άσκησης για τον εντοπισμό τρωτών σημείων με τη συμμετοχή εξωτερικών ειδικών. Η τριμελής ομάδα αξιοποίησε την πλατφόρμα ανταλλαγής μηνυμάτων Discourse, την οποία χρησιμοποιεί η OpenAI, για να αποκτήσει πρόσβαση σε λογαριασμούς ChatGPT και Codex — το εργαλείο προγραμματισμού της εταιρείας.
Μέσω αυτής της μεθόδου οι ερευνητές κατάφεραν να εισέλθουν σε πολλούς λογαριασμούς, αναδεικνύοντας την ευπάθεια που προκύπτει από την ενσωμάτωση τρίτων υπηρεσιών σε κρίσιμες πλατφόρμες AI. Το περιστατικό υπογραμμίζει ότι ακόμα και οι πρωτοπόροι στον χώρο της AI δεν είναι απρόσβλητοι όταν πρόκειται για συστήματα συνεργασίας και τρίτων διεπαφών.
Τα βασικά συμπεράσματα είναι σαφή: η ασφάλεια των υποδομών AI χρειάζεται συνεχή αξιολόγηση, οι συνεργασίες με εξωτερικούς παρόχους πρέπει να συνοδεύονται από αυστηρούς ελέγχους, και οι εταιρείες πρέπει να διατηρούν απόλυτη διαφάνεια όταν διεξάγουν τέτοιου είδους ασκήσεις. Το συμβάν είναι ένα ισχυρό καμπανάκι για την ευρύτερη κοινότητα ότι η τεχνολογία μπορεί να χρησιμοποιηθεί τόσο αμυντικά όσο και επιθετικά.
