Στέλεχος της Anthropic προειδοποιεί: Πάνω από 10% η πιθανότητα η τεχνητή νοημοσύνη να εξολοθρεύσει την ανθρωπότητα

Ο Evan Hubinger, επικεφαλής της επιστήμης ευθυγράμμισης στην Anthropic, ανήρτησε στο X την Τρίτη ότι προσωπικά πιστεύει πως υπάρχει πιθανότητα μεγαλύτερη του 10% η τεχνητή νοημοσύνη «να εξολοθρεύσει όλους τους ανθρώπους» μέσα στην επόμενη δεκαετία, μια δήλωση που έχει συγκεντρώσει πάνω από 10 εκατομμύρια προβολές και έχει προκαλέσει αναστάτωση στα οικονομικά σχόλια γύρω από την αναμενόμενη αρχική δημόσια προσφορά (IPO) της εταιρείας.bbc+2

«Ο Jacob έχει δίκιο εδώ, όντως πιστεύουμε ειλικρινά ότι η τεχνητή νοημοσύνη θα μπορούσε να εξολοθρεύσει όλους τους ανθρώπους! Προσωπικά πιστεύω ότι η πιθανότητα είναι >10% μέσα στην επόμενη δεκαετία», έγραψε ο Hubinger. «Πιστεύω ότι η Anthropic προσπαθεί όσο μπορεί, αλλά δεν έχουμε ακόμη ένα σχέδιο για την επίλυση της ευθυγράμμισης για την υπερνοημοσύνη και δεν είμαστε ξεκάθαρα σε σωστή πορεία».x

Μια παραίτηση πυροδοτεί αλυσιδωτές αντιδράσεις

Η ανάρτηση του Hubinger ήρθε ως απάντηση στον Jacob Coxon, έναν ερευνητή τεχνητής νοημοσύνης που ανακοίνωσε στο X ότι παραιτείται από την Anthropic μετά από τρία χρόνια εργασίας τόσο στην Anthropic όσο και στην OpenAI. Ο Coxon κατηγόρησε και τις δύο εταιρείες ότι «τρέχουν απευθείας προς την αυτοβελτιούμενη υπερνοημοσύνη και τζογάρουν με τις ζωές μας».nypost+1

«Οι άνθρωποι που κατασκευάζουν την τεχνητή νοημοσύνη πιστεύουν ειλικρινά ότι θα μπορούσε να μας εξολοθρεύσει όλους μέχρι το τέλος της δεκαετίας. Αυτό δεν είναι διαφημιστικό κόλπο», έγραψε ο Coxon, προσθέτοντας ότι τα στελέχη και οι ανώτεροι ερευνητές εκφράζουν ιδιωτικά φόβους που μετριάζουν στις δημόσιες δηλώσεις τους.saudigazette+1

Ένας τρίτος υπάλληλος της Anthropic, ο επικεφαλής κλιμακούμενης εποπτείας Samuel Marks, πρόσθεσε τη δική του εκτίμηση στο ίδιο νήμα, γράφοντας ότι «γενικά, όσο πιο ανώτεροβαθμος είναι ο υπάλληλος, τόσο περισσότερο ανησυχεί».breitbart

Ο Cramer αλλάζει στάση από τον ενθουσιασμό στον δισταγμό

Οι αποκαλύψεις δημιούργησαν μια ασυνήθιστη σκηνή στο CNBC. Το βράδυ της Τρίτης στην εκπομπή Mad Money, ο Jim Cramer είπε στους τηλεθεατές ότι η Anthropic «θα μπορούσε να είναι μια γιγαντιαία IPO και οι επενδυτές θα πουλήσουν κάθε είδους άλλες μετοχές για να συγκεντρώσουν χρήματα ώστε να συμμετάσχουν». Μέχρι το πρωί της Τετάρτης στην εκπομπή Squawk on the Street, συνέκρινε την εκτίμηση του Hubinger με τα ποσοστά θνησιμότητας σε χειρουργικές επεμβάσεις. «Αν βρεθείς ποτέ σε μια κατάσταση όπου θέλεις μια χειρουργική επέμβαση και η πιθανότητα θανάτου είναι πάνω από 5%, δεν το κάνεις… το 10% είναι διπλάσιο του 5%», είπε ο Cramer, προσθέτοντας ότι ήταν «πολύ έκπληκτος που αυτός ο άνθρωπος εξακολουθεί να εργάζεται» στην Anthropic.tech-insider+1

Η Anthropic δεν έχει καταθέσει έγγραφο S-1 στην Επιτροπή Κεφαλαιαγοράς (SEC) και παραμένει ιδιωτική εταιρεία, αν και η Financial Times News Corp ↘ 0.78% έχει αναφέρει ότι οι μέτοχοι αναμένουν από την εταιρεία να εισαχθεί τελικά στο χρηματιστήριο με αποτίμηση άνω των 2 τρισεκατομμυρίων δολαρίων. Η εταιρεία είχε προηγουμένως συγκεντρώσει κεφάλαια σε έναν γύρο σειράς H που την αποτιμούσε στα 965 δισεκατομμύρια δολάρια.247wallst+1

Ένα μοτίβο προειδοποιήσεων

Η εκτίμηση του Hubinger εμπίπτει σε ένα εύρος που έχουν ήδη θέσει άλλες εξέχουσες προσωπικότητες του χώρου της τεχνητής νοημοσύνης. Ο διευθύνων σύμβουλος της Anthropic, Dario Amodei, έχει αναφέρει στο παρελθόν περίπου 25% πιθανότητα καταστροφικών αποτελεσμάτων, ενώ ο Geoffrey Hinton έχει εκτιμήσει ένα εύρος 10% έως 20%, σύμφωνα με το Axios. Ωστόσο, η αποκάλυψη του Hubinger έχει ιδιαίτερη βαρύτητα ως επίσημη δήλωση από έναν κατονομαζόμενο υπάλληλο του οποίου η δουλειά είναι να επιλύσει το ίδιο πρόβλημα που λέει ότι παραμένει άλυτο, φτάνοντας λίγες ημέρες μετά την εντατικοποίηση των εικασιών για την IPO.tech-insider

Το επεισόδιο ακολουθεί επίσης μια αναφορά των Financial Times ότι η Anthropic απέκρυψε το τελευταίο της μοντέλο από το Ινστιτούτο Ασφάλειας Τεχνητής Νοημοσύνης του Ηνωμένου Βασιλείου. Ο Neil Lawrence, καθηγητής μηχανικής μάθησης στο Πανεπιστήμιο του Κέιμπριτζ, δήλωσε στο BBC ότι η αναφορά ήταν αξιόπιστη, επικαλούμενος ένα πλαίσιο στο οποίο οι Ηνωμένες Πολιτείες «βλέπουν σε μεγάλο βαθμό την τεχνητή νοημοσύνη ως μια κούρσα» με την Κίνα.bbc+1

Ούτε η Anthropic ούτε η OpenAI έχουν δείξει σημάδια επιβράδυνσης της ανάπτυξης. Ο επικεφαλής επιστήμονας της OpenAI, Jakub Pachocki, ζήτησε «ακραία προσοχή» νωρίτερα αυτόν τον μήνα, αλλά δεν έφτασε στο σημείο να ανακοινώσει παύση. Μια ανοιχτή επιστολή που υπογράφηκε από 1.300 υπαλλήλους εταιρειών τεχνητής νοημοσύνης προέτρεψε την κυβέρνηση των ΗΠΑ να βοηθήσει στον «σκόπιμο ρυθμό της ανάπτυξης της τεχνητής νοημοσύνης».saudigazette+1