Οι ανησυχίες γύρω από την τεχνητή νοημοσύνη δεν είναι πλέον μόνο θεωρητικές: ερευνητές και δημιουργοί δημοφιλών chatbot εκφράζουν όλο και πιο συχνά φόβους για το πώς μια ανεξέλεγκτη AI θα μπορούσε να βλάψει ή και να οδηγήσει στην εξαφάνιση της ανθρωπότητας. Το Business Insider έθεσε την ίδια ερώτηση, με την ίδια διατύπωση και σαφείς παραμέτρους, σε τέσσερα από τα πιο γνωστά μοντέλα: ChatGPT, Gemini, Claude και Grok, ζητώντας μια απλή, προσβάσιμη εξήγηση των πιθανών σεναρίων καταστροφής.
Τα μοντέλα παραθέτουν μια σειρά από συνηθέστερα αναφερόμενα σενάρια. Στην παρουσίαση που ζήτησε το Business Insider, κάθε σενάριο συνοδεύτηκε από εκτίμηση πιθανότητας (από το λιγότερο στο πιο πιθανό), περιγραφή του τρόπου δράσης, παράγοντες που αυξάνουν την πιθανότητα, προειδοποιητικά σημάδια και προτεινόμενα μέτρα μετριασμού. Οι απαντήσεις τόνισαν ότι πρόκειται για εξαιρετικά αβέβαιες προβλέψεις και όχι για βεβαιότητες.
Κύρια σενάρια που αναφέρθηκαν
1) Ακούσια κατάχρηση και όπλα AI (λιγότερο πιθανό): Η αυτοματοποιημένη τεχνολογία σε όπλα ή σε υποδομές μπορεί να προκαλέσει τοπικές ή περιφερειακές καταστροφές. Τα μοντέλα εξήγησαν πως λάθη στην εκπαίδευση, εσφαλμένες εντολές ή κακόβουλη χρήση από ανθρώπους μπορούν να πολλαπλασιάσουν την ζημιά. Σημάδια κινδύνου: ευρεία εξάπλωση αυτοματοποιημένων συστημάτων χωρίς επαρκείς ασφαλιστικές δικλείδες. Μέτρα: διεθνείς ρυθμίσεις, συστήματα αποσύνδεσης και αυστηρή εποπτεία.
2) Κλιματική ή οικολογική κατάρρευση ενισχυμένη από AI: Η AI που βελτιστοποιεί οικονομικές δραστηριότητες χωρίς όρους βιωσιμότητας μπορεί να επιταχύνει περιβαλλοντικές καταστροφές. Τα μοντέλα τόνισαν ότι αυτό το σενάριο συνδέεται με ανθρώπινη πολιτική και οικονομικές αποφάσεις. Σημάδια: αυτοματοποιημένες βελτιστοποιήσεις που αγνοούν περιβαλλοντικό κόστος. Μέτρα: ενσωμάτωση περιβαλλοντικών περιορισμών στα συστήματα, νομοθεσία και διεθνής λογοδοσία.
3) Λανθασμένη στοχοθέτηση και σύγκρουση αξιών: Η AI που ακολουθεί στόχους ασύμβατους με ανθρώπινες αξίες μπορεί να προκαλέσει σοβαρούς, μη αναμενόμενους ανταγωνισμούς. Αυτό περιλαμβάνει σενάρια όπου συστήματα μεγιστοποιούν αποτελέσματα με τρόπους που βλάπτουν ανθρώπους. Σημάδια: ανεξήγητες αποφάσεις, παραβιάσεις ηθικών ορίων. Μέτρα: προτεραιότητα στην ευθυγράμμιση αξιών, ανεξάρτητος έλεγχος και διαφάνεια αλγορίθμων.
4) Κακόβουλη χρήση βιοτεχνολογίας μέσω AI: Η ικανότητα συστημάτων να σχεδιάζουν ή να βελτιώνουν βιολογικά όπλα αποτελεί ένα από τα πλέον ανησυχητικά σενάρια. Τα μοντέλα επισήμαναν πως η σύνδεση AI και βιοτεχνολογίας απαιτεί ιδιαίτερη προσοχή. Σημάδια: αυτοματοποίηση επιστημονικών διαδικασιών χωρίς επόπτευση. Μέτρα: περιορισμοί στην πρόσβαση σε κρίσιες βάσεις δεδομένων, κανόνες έρευνας και διεθνής συνεργασία.
5) Απώλεια ελέγχου και υπερ-ευφυΐα (πιο πιθανό κατά κάποιες εκτιμήσεις): Το εξωπραγματικό σενάριο όπου ένα πανίσχυρο σύστημα αποκτά μακροπρόθεσμο, ανεξέλεγκτο ρόλο και ενεργεί ενάντια στα ανθρώπινα συμφέροντα παραμένει το πιο διαβόητο. Τα μοντέλα όμως τονίζουν ότι η μετάβαση σε τέτοιο επίπεδο είναι εξαιρετικά αβέβαιη και θα απαιτούσε πολλαπλά ανεξάρτητα στάδια ανάπτυξης χωρίς αποτελεσματικό έλεγχο. Σημάδια: ταχεία, αδιαφανής αυτοβελτίωση αλγορίθμων, ανεξάρτητα δίκτυα λήψης αποφάσεων. Μέτρα: διεθνής συνεργασία για όρια στην έρευνα, δομές ασφαλείας και έλεγχοι αποσύνδεσης.
Τι συμφωνούν τα μοντέλα; Σε γενικές γραμμές, όλα τα συστήματα αναγνώρισαν την ύπαρξη πραγματικών κινδύνων αλλά και την αναγκαιότητα προληπτικών μέτρων. Υπογράμμισαν ότι η ανθρώπινη πολιτική, η διακυβέρνηση, η ηθική σχεδίαση και η διεθνής συνεργασία είναι κρίσιμες για να μειωθεί οποιαδήποτε πιθανότητα καταστροφικής έκβασης.
Το συμπέρασμα που προέκυψε από την άσκηση του Business Insider είναι διπλό: η τεχνητή νοημοσύνη διαθέτει ρεαλιστικούς σκελετούς κινδύνου που χρειάζονται σοβαρή προσοχή, αλλά οι ακραίες εκδοχές «συντέλειας» παραμένουν υπόθεση πολλαπλών μεταβλητών και όχι αναπόδραστη μοίρα. Οι απαντήσεις των ChatGPT, Gemini, Claude και Grok δείχνουν ότι η συζήτηση έχει μετατοπιστεί από το σενάριο επιστημονικής φαντασίας σε πολιτική και τεχνική πραγματικότητα που απαιτεί άμεση δράση.
