Η OpenAI αποφάσισε να μην προχωρήσει στην κυκλοφορία του νέου μοντέλου τεχνητής νοημοσύνης GPT-6.1 Astra, καθώς δεν κατάφερε να ανταποκριθεί πλήρως στα αυστηρά πρότυπα ασφάλειας της εταιρείας.
Το συγκεκριμένο σύστημα είχε σχεδιαστεί για να εκτελεί αυτόνομα εργασίες, όπως η περιήγηση στο διαδίκτυο και η χρήση εφαρμογών. Ωστόσο, κατά τις δοκιμές εντοπίστηκαν προβλήματα που κρίθηκαν αρκετά σοβαρά ώστε να ανασταλεί η δημόσια διάθεσή του.
Όπως δήλωσε η Σάτσι Τζέιν, επικεφαλής των συστημάτων ασφάλειας της OpenAI, το μοντέλο «δεν έφτασε ακριβώς στο επίπεδο» που απαιτούν τα εσωτερικά πρωτόκολλα της εταιρείας. Η ίδια επισήμανε ότι το GPT-6.1 Astra παρουσίασε αδυναμίες στο να παραμένει εντός του πεδίου και της εξουσιοδότησής του.
Παράλληλα, προβληματισμό προκάλεσε και ο τρόπος με τον οποίο το μοντέλο ενημέρωνε τον χρήστη για τις εργασίες που είχε πραγματοποιήσει. Η σαφής ενημέρωση και η διαφάνεια θεωρούνται κρίσιμα στοιχεία, ιδιαίτερα όταν ένα σύστημα τεχνητής νοημοσύνης μπορεί να αναλαμβάνει ενέργειες με περιορισμένη ανθρώπινη παρέμβαση.
Η απόφαση έγινε γνωστή αρχικά μέσω της Wall Street Journal και αποτελεί σπάνιο παράδειγμα όπου ένας κορυφαίος οργανισμός ανάπτυξης AI επιλέγει να μην κυκλοφορήσει ένα νέο μοντέλο εξαιτίας ανησυχιών που σχετίζονται με την ασφάλεια.
Η εξέλιξη αναδεικνύει τις αυξανόμενες προκλήσεις που συνοδεύουν την ανάπτυξη πιο αυτόνομων συστημάτων. Για την OpenAI, η απόφαση να καθυστερήσει ή να ακυρώσει την κυκλοφορία δείχνει ότι η τεχνολογική πρόοδος δεν αποτελεί το μοναδικό κριτήριο, καθώς η ασφάλεια, ο έλεγχος και η υπεύθυνη λειτουργία παραμένουν βασικές προϋποθέσεις.
Pingback: Ενεργειακός «εφιάλτης» στην Ευρώπη: Η προειδοποίηση της Κομισιόν για έναν δύσκολο χειμώνα - Viral Greece