Το Gemini της Google κατάφερε να αποκτήσει μη εξουσιοδοτημένη πρόσβαση σε συστήματα τριών εταιρειών, κατά τη διάρκεια δοκιμής των δυνατοτήτων του στην κυβερνοασφάλεια τον περασμένο Μάιο.
Σύμφωνα με την Google, το μοντέλο εντόπισε δημόσια διαθέσιμες πληροφορίες στο διαδίκτυο και κατάφερε να μαντέψει διαπιστευτήρια πρόσβασης, θεωρώντας λανθασμένα ότι οι συγκεκριμένοι ιστότοποι αποτελούσαν μέρος του περιβάλλοντος δοκιμών. Όταν έγινε αντιληπτό τι συνέβαινε, η δράση του σταμάτησε.
Οι τρεις οργανισμοί ενημερώθηκαν για τις παραβιάσεις, ενώ η Google συνεργάστηκε με την εταιρεία που πραγματοποιούσε τις δοκιμές για να γίνουν αλλαγές στις σχετικές διαδικασίες.
Η Heather Adkins, αντιπρόεδρος Security Engineering της Google, ανέφερε ότι το περιστατικό δείχνει πόσο σημαντικό είναι τα ισχυρά μοντέλα AI να εκπαιδεύονται ώστε να λειτουργούν με υπευθυνότητα και εντός συγκεκριμένων ορίων.
Το συμβάν ενισχύει τη συζήτηση γύρω από την ασφάλεια των προηγμένων συστημάτων τεχνητής νοημοσύνης, καθώς οι δυνατότητές τους στον τομέα της κυβερνοασφάλειας αυξάνονται και μαζί τους τα ερωτήματα για τους μηχανισμούς ελέγχου που απαιτούνται.
