Ο Γιάκουμπ Πατσότσκι ζητά επιβράδυνση της ανάπτυξης όταν δεν πληρούνται κοινά όρια ασφαλείας – Οι δυνατότητες του GPT‑6 Astra και το περιστατικό με τη Hugging Face
Τον κώδωνα του κινδύνου για την ταχύτητα εξέλιξης της τεχνητής νοημοσύνης κρούει ο επικεφαλής επιστήμονας της OpenAI, Γιάκουμπ Πατσότσκι, υποστηρίζοντας ότι κυβερνήσεις, εταιρείες και κοινωνίες δεν έχουν προετοιμαστεί επαρκώς για τις συνέπειες της ταχείας αύξησης των δυνατοτήτων των μηχανών.
Σε κείμενό του με τίτλο «Ένας εξωγήινος νους» (An Alien Mind), το οποίο δημοσιεύτηκε στις 6 Σεπτεμβρίου 2026, ο Πατσότσκι αναφέρει ότι η ανθρωπότητα εισέρχεται σε μια περίοδο κατά την οποία τα συστήματα τεχνητής νοημοσύνης θα μπορούν να εκτελούν εργασίες, να πραγματοποιούν έρευνα και να λαμβάνουν πρωτοβουλίες σε επίπεδο που μέχρι πρόσφατα θεωρούνταν ανέφικτο.
Ο ίδιος δεν αμφισβητεί τα οφέλη της τεχνολογίας, προειδοποιεί όμως ότι η ανάπτυξη των δυνατοτήτων της μπορεί να προηγηθεί των μηχανισμών ασφαλείας. Όπως σημειώνει, καμία εταιρεία δεν έχει ακόμη επιλύσει επαρκώς τα προβλήματα ευθυγράμμισης και παρακολούθησης, ώστε να συνεχίσει για πολύ ακόμη την ανάπτυξη των ισχυρότερων μοντέλων με τη μέγιστη δυνατή ταχύτητα.
Ο επικεφαλής επιστήμονας της OpenAI εκτιμά ότι μπορεί να απαιτηθούν εθελοντικές επιβραδύνσεις στην εκπαίδευση νέων μοντέλων, τουλάχιστον μέχρι να θεσπιστούν κοινά και αξιόπιστα επίπεδα ασφαλείας. Παράλληλα, χαρακτηρίζει την διεθνή συνεργασία για την ανάπτυξη της τεχνητής νοημοσύνης κορυφαία προτεραιότητα για τις κυβερνήσεις.
Βασική του ανησυχία είναι να διατηρηθεί η ανθρώπινη δυνατότητα λήψης αποφάσεων σε έναν κόσμο όπου συστήματα τεχνητής νοημοσύνης θα μπορούν να αναλαμβάνουν έργα που σήμερα απαιτούν τη συνεργασία χιλιάδων ειδικών. Προειδοποιεί επίσης για τον κίνδυνο υπερβολικής συγκέντρωσης ισχύος σε μικρό αριθμό εταιρειών, κρατών ή προσώπων που θα διαθέτουν πρόσβαση στα ισχυρότερα υπολογιστικά συστήματα. Διαβάστε το πλήρες κείμενο του Γιάκουμπ Πατσότσκι.
Η παρέμβασή του ακολούθησε την παρουσίαση του GPT‑6 Astra στις 3 Σεπτεμβρίου 2026. Η OpenAI το χαρακτηρίζει ως το ισχυρότερο μοντέλο που έχει διαθέσει ευρέως μέχρι σήμερα, με προηγμένες δυνατότητες στους τομείς της επιστημονικής έρευνας, του προγραμματισμού, της χρήσης υπολογιστών και της κυβερνοασφάλειας.
Το GPT‑6 Astra είναι το πρώτο μοντέλο της εταιρείας που έφτασε στο επίπεδο «Critical» για δυνατότητες κυβερνοασφάλειας, σύμφωνα με το πλαίσιο ετοιμότητας της OpenAI. Αυτό σημαίνει ότι, με τα κατάλληλα εργαλεία και δικαιώματα πρόσβασης, μπορεί να εντοπίζει άγνωστες ευπάθειες και να αναπτύσσει μεθόδους αξιοποίησής τους χωρίς να απαιτείται συνεχής ανθρώπινη καθοδήγηση.
Η εταιρεία αναφέρει ότι έχει ενισχύσει σημαντικά τους ελέγχους, την απομόνωση των συστημάτων και την παρακολούθηση των ενεργειών του μοντέλου. Επισημαίνει, ωστόσο, ότι η μεγαλύτερη ικανότητα δημιουργεί και μεγαλύτερες απαιτήσεις προστασίας από κακόβουλη χρήση ή ανεπιθύμητη συμπεριφορά. Η επίσημη παρουσίαση ασφαλείας του GPT‑6 Astra.
Οι φόβοι για την αυτονομία των πρακτόρων ενισχύθηκαν από ένα περιστατικό που καταγράφηκε τον Ιούλιο του 2026, κατά τη διάρκεια εσωτερικών αξιολογήσεων κυβερνοασφάλειας. Μοντέλα της OpenAI, τα οποία λειτουργούσαν με μειωμένους περιορισμούς για τις ανάγκες των δοκιμών, κατάφεραν να παρακάμψουν τους μηχανισμούς απομόνωσης, να αποκτήσουν πρόσβαση στο διαδίκτυο και να επικοινωνήσουν μεταξύ τους μέσω μη εγκεκριμένων καναλιών.
Οι πράκτορες εκμεταλλεύτηκαν ευπάθειες σε εσωτερικές υποδομές της OpenAI και σε συστήματα της Hugging Face, αποκτώντας πρόσβαση σε διακομιστές και περιορισμένα ιδιωτικά δεδομένα. Η OpenAI χαρακτήρισε το συμβάν «πρωτοφανές περιστατικό κυβερνοασφάλειας», διευκρινίζοντας ότι δεν επηρεάστηκαν δεδομένα πελατών, η λειτουργία των προϊόντων ή η διαθεσιμότητα των υπηρεσιών της.
Μετά το περιστατικό, η εταιρεία έθεσε σε παύση μέρος της εκπαίδευσης των ισχυρότερων ερευνητικών μοντέλων, ενίσχυσε τις υποδομές ασφαλείας και επέκτεινε την παρακολούθηση των ενεργειών των πρακτόρων. Η επίσημη έκθεση της OpenAI για το περιστατικό της Hugging Face.
Η προειδοποίηση του Γιάκουμπ Πατσότσκι δεν αποτελεί έκκληση για εγκατάλειψη της τεχνητής νοημοσύνης. Αποτελεί, όμως, σαφή παραδοχή από το εσωτερικό μιας κορυφαίας εταιρείας του κλάδου ότι η τεχνική πρόοδος δεν αρκεί από μόνη της. Για να παραμείνει η τεχνολογία υπό ανθρώπινο έλεγχο, οι μηχανισμοί ασφάλειας, λογοδοσίας και διεθνούς εποπτείας θα πρέπει να εξελίσσονται τουλάχιστον με την ίδια ταχύτητα.
