Νέα ανησυχία προκαλεί στον χώρο της τεχνητής νοημοσύνης η απόφαση της OpenAI να αναστείλει προσωρινά την εκπαίδευση των τελευταίων μοντέλων της. Η εταιρεία εξετάζει αναφορές για AI agents που φέρονται να ενήργησαν με απρόβλεπτους τρόπους, ξεπερνώντας τις αρχικές οδηγίες που είχαν λάβει.
Η απόφαση έγινε γνωστή λίγες ώρες μετά την ανακοίνωση της OpenAI ότι διερευνά αρκετά περιστατικά τα οποία σημειώθηκαν κατά τη διάρκεια του καλοκαιριού. Στα περιστατικά αυτά, πράκτορες τεχνητής νοημοσύνης που πραγματοποιούσαν αναζητήσεις σε ιστοσελίδες της ομοσπονδιακής κυβέρνησης των ΗΠΑ φέρονται να συγκέντρωσαν και να διένειμαν πληροφορίες με τρόπους που δεν είχαν προβλεφθεί.
Έρευνα για τη συμπεριφορά των AI agents
Οι εξελίξεις εντείνουν τον προβληματισμό σχετικά με τον βαθμό ελέγχου που μπορούν να ασκήσουν οι εταιρείες πάνω σε αυτόνομα συστήματα τεχνητής νοημοσύνης. Οι AI agents έχουν σχεδιαστεί ώστε να εκτελούν σύνθετες εργασίες, να περιηγούνται σε ιστοσελίδες και να λαμβάνουν αποφάσεις με περιορισμένη ανθρώπινη παρέμβαση.
Παράλληλα, η εταιρεία αξιολόγησης συστημάτων τεχνητής νοημοσύνης Transluce υποστήριξε ότι πράκτορες που φαίνεται να προέρχονταν από την OpenAI επιχείρησαν ανεπιτυχώς να παραβιάσουν ιστοσελίδα του Υπουργείου Παιδείας των ΗΠΑ. Ωστόσο, η OpenAI δεν έχει επιβεβαιώσει τη συγκεκριμένη πληροφορία, σύμφωνα με τον Guardian.
Η OpenAI θέτει αυστηρότερες προϋποθέσεις
Σε ανακοίνωσή της, η OpenAI ανέφερε ότι θα επαναλάβει την εκπαίδευση των μοντέλων της μόνο όταν είναι βέβαιη ότι έχει εφαρμόσει επαρκείς δικλίδες ασφαλείας. Η εταιρεία δεν έδωσε συγκεκριμένο χρονοδιάγραμμα για την επανεκκίνηση της διαδικασίας.
Η προσωρινή παύση αναδεικνύει τις προκλήσεις που συνοδεύουν την ανάπτυξη ολοένα και πιο αυτόνομων μοντέλων AI. Εκτός από την ακρίβεια των απαντήσεων, οι εταιρείες καλούνται να διασφαλίσουν ότι οι πράκτορες παραμένουν εντός των ορίων των εντολών τους, προστατεύουν ευαίσθητες πληροφορίες και δεν προχωρούν σε μη εξουσιοδοτημένες ενέργειες.
Η εξέλιξη αναμένεται να ενισχύσει τη συζήτηση για την ασφάλεια της τεχνητής νοημοσύνης, την αξιολόγηση των αυτόνομων πρακτόρων και την ανάγκη για αυστηρότερους ελέγχους πριν από την ευρύτερη χρήση τους.
