Ένας ανώτερος ερευνητής της Anthropic προειδοποίησε την Τρίτη ότι εκείνοι και ορισμένοι συνάδελφοί του θεωρούν πως η τεχνητή νοημοσύνη ενδέχεται να οδηγήσει στην εξόντωση των ανθρώπων, εκτιμώντας ότι η πιθανότητα αυτή ξεπερνά το 10% την επόμενη δεκαετία. Ο ίδιος τόνισε ότι, παρά τις προσπάθειες της εταιρείας, δεν υπάρχει ακόμη σαφές σχέδιο για την αντιμετώπιση της ευθυγράμμισης σε επίπεδο υπερνοημοσύνης.
Ο Evan Hubinger, που είναι επικεφαλής της επιστήμης της ευθυγράμμισης στην Anthropic, ανάρτησε την Τρίτη στο X ότι εκείνος και οι συνάδελφοί του «πιστεύουν ειλικρινά» πως η τεχνητή νοημοσύνη μπορεί να αφανίσει την ανθρωπότητα και εκτίμησε τον παραπάνω κίνδυνο σε ποσοστό άνω του 10% μέσα στην επόμενη δεκαετία.
Στην ανάρτησή του, ο Hubinger παραδέχεται πως η εταιρεία καταβάλλει προσπάθειες για την αντιμετώπιση του ζητήματος, αλλά επισημαίνει ότι δεν υπάρχει προς το παρόν ολοκληρωμένο σχέδιο για την επίλυση της ευθυγράμμισης όταν πρόκειται για υπερνοημοσύνη και ότι η Anthropic δεν φαίνεται «σαφώς σε καλό δρόμο» προς αυτήν την κατεύθυνση.
Προηγουμένως, είχε σημειωθεί η παραίτηση ενός άλλου ερευνητή από την εταιρεία, ο οποίος κατηγόρησε την Anthropic ότι δεν λειτουργεί με υπεύθυνο τρόπο. Οι εξελίξεις αυτές αναδεικνύουν τις εσωτερικές εντάσεις και τις ανοιχτές ανησυχίες εντός της εταιρείας σχετικά με την ασφάλεια και τη διαχείριση των εξελισσόμενων συστημάτων τεχνητής νοημοσύνης.
