Οι ανησυχίες για τους δυνητικούς κινδύνους που φέρνει η τεχνητή νοημοσύνη εντείνονται, καθώς ειδικοί προειδοποιούν ότι, εάν τα συστήματα ξεφύγουν από τον ανθρώπινο έλεγχο, μπορεί να δημιουργηθούν σοβαρές επιπτώσεις για την κοινωνία. Μερικοί ερευνητές εκτιμούν ότι η AI είναι πιθανό να ξεπεράσει σύντομα τις ανθρώπινες δυνατότητες σε πολλούς τομείς και να αποκτήσει πρόσβαση σε κρίσιμες υποδομές, χρηματοοικονομικά συστήματα και τεράστιους όγκους δεδομένων.
Υποστηρίζεται ότι συστήματα τεχνητής νοημοσύνης με αυξημένες ικανότητες θα μπορούσαν να παρεισφρήσουν σε σημαντικά τεχνολογικά και οικονομικά δίκτυα, προκαλώντας διαταραχές σε κλάδους ολόκληρους. Η πιθανότητα τέτοιων μηχανισμών να αποκτήσουν «πραγματική δύναμη» —με την ικανότητα δηλαδή να επηρεάζουν ευρύ φάσμα δραστηριοτήτων— είναι κεντρικό σημείο της ανησυχίας των ειδικών.
Ο Τζέικομπ Κόξον, ερευνητής με εμπειρία σε OpenAI και Anthropic, αποφάσισε να αποχωρήσει από την εταιρεία για να προειδοποιήσει για τους κινδύνους μιας ανεξέλεγκτης εξέλιξης της τεχνητής νοημοσύνης. Η New York Post αναφέρει ότι ο Κόξον εκφράζει φόβους πως μελλοντικά τέτοια συστήματα θα είναι ικανά να παραβιάζουν συστήματα, να επηρεάζουν ολόκληρους κλάδους και να αποκτούν σημαντική επιρροή.
Οι προειδοποιήσεις αυτές προέρχονται από ανθρώπους που βρίσκονται στην πρώτη γραμμή της ανάπτυξης της τεχνολογίας, γεγονός που ενισχύει το βάρος των ανησυχιών για πιθανές απρόβλεπτες συνέπειες εάν δεν τεθούν αυστηρά όρια και μηχανισμοί ελέγχου.
