Ο CEO της Anthropic παραδέχεται λάθη και υπερασπίζεται τον αγώνα για την ασφαλή τεχνητή νοημοσύνη

Ο CEO της Anthropic, Dario Amodei, απάντησε το βράδυ της Τρίτης, 20 Οκτωβρίου, σε έναν από τους πιο έντονους επικριτές της εταιρείας του, μέσω μιας ανάρτησης στο X που ξεπέρασε τις 2.000 λέξεις. Παραδέχτηκε ότι η Anthropic χειρίστηκε ορισμένα ζητήματα λανθασμένα, αλλά υποστήριξε ότι η παραμονή στην αιχμή της τεχνητής νοημοσύνης είναι ο καλύτερος τρόπος για να διασφαλιστεί η ασφάλεια της τεχνολογίας, όπως ανέφερε το Business Insider. Απαντούσε στον Nathan Calvin, διευθυντή στρατηγικής της μη κερδοσκοπικής οργάνωσης Encode AI. Σε μια ανάρτηση άνω των 1.500 λέξεων τη Δευτέρα, ο Calvin απαρίθμησε εννέα ενέργειες που, κατά την άποψή του, δείχνουν ότι η Anthropic καλπάζει προς την υπερνοημοσύνη εις βάρος των δεσμεύσεών της για ασφάλεια. Μεταξύ αυτών περιλαμβάνονται συμφωνίες υπολογιστικής ισχύος αξίας άνω των 500 δισεκατομμυρίων δολαρίων και η αυξανόμενη εξάρτηση από το Claude για την κατασκευή των δικών της μοντέλων.businessinsider.com

Μια λίστα με δαπανηρές επιλογές

"Η στρατηγική μας ήταν πάντα αυτό που ονομάζω αγώνα προς την κορυφή: δείχνοντας πώς είναι δυνατόν να οικοδομηθεί η τεχνολογία υπεύθυνα, μπορούμε να ανεβάσουμε τον πήχη για ολόκληρο τον κλάδο", έγραψε ο Amodei. Πρόσθεσε επίσης ότι "οποιαδήποτε απόφαση, για οποιοδήποτε θέμα, μπορεί πάντα να παρουσιαστεί ως ένα μοχθηρό σχέδιο".indiatoday.in+1

Στη συνέχεια, παρουσίασε τις δικές του εννέα αποφάσεις που, όπως υποστήριξε, ήταν εμπορικά δαπανηρές αλλά βελτίωσαν την ασφάλεια. Σε αυτές περιλαμβάνονταν η υποστήριξη του νομοσχεδίου SB 53 της Καλιφόρνια, η διατήρηση αυστηρών δικλείδων ασφαλείας κατά της βιολογικής κακής χρήσης και η καθυστέρηση της ευρύτερης κυκλοφορίας προηγμένων μοντέλων μέχρι να είναι έτοιμες ισχυρότερες προστασίες κυβερνοασφάλειας. Επισήμανε επίσης τη διάθεση του μοντέλου Mythos μόνο σε μια μικρή ομάδα συνεργατών κυβερνοασφάλειας και τον περιορισμό των πωλήσεων σε εταιρείες που ελέγχονται από το κινεζικό κράτος. Παραδέχτηκε ότι η συγκράτηση των δυνατοτήτων αιχμής "είχε ένα ευρύτερο κόστος", συμπεριλαμβανομένης της βραδύτερης προόδου στη βιολογία.businessinsider.com+1

Η διαμάχη για το προσχέδιο του νομοσχεδίου

Ο Amodei παραδέχτηκε ότι η Anthropic θα μπορούσε να είχε χειριστεί ορισμένα από τα σημεία του Calvin καλύτερα. Ένα από αυτά ήταν ένα προσχέδιο ομοσπονδιακού νομοσχεδίου που κυκλοφόρησε η εταιρεία στο Κογκρέσο αυτόν τον μήνα, το οποίο οι επικριτές υποστήριξαν ότι θα καθιστούσε δυσκολότερο για την κυβέρνηση να μπλοκάρει επικίνδυνα μοντέλα. Σύμφωνα με το προσχέδιο, το οποίο ανέφερε πρώτο το Politico, οι ομοσπονδιακοί αξιωματούχοι θα μπορούσαν να σταματήσουν ένα μοντέλο μόνο εάν ενείχε "προβλέψιμο, επικείμενο κίνδυνο ζημιών άνω του 1 δισεκατομμυρίου δολαρίων ή θανάτου ή σοβαρού τραυματισμού περισσότερων από 50 ανθρώπων". Εκπρόσωπος της Anthropic δήλωσε ότι το προσχέδιο αντικατοπτρίζει το Πλαίσιο Προηγμένης Τεχνητής Νοημοσύνης της εταιρείας.politico.com+3

Ο Calvin επέκρινε επίσης την Anthropic για την αλλαγή της Πολιτικής Υπεύθυνης Κλιμάκωσης. Τον Φεβρουάριο, η εταιρεία εγκατέλειψε τη δέσμευση να κάνει παύση από μόνη της εάν οι δικλείδες ασφαλείας της υπολείπονταν των δυνατοτήτων των μοντέλων της. "Γιατί τα λάθη τείνουν συστηματικά να προστατεύουν και να ευνοούν τα συμφέροντα της Anthropic;" ρώτησε ο Calvin.chaincatcher.com+1

Έλεγχος ενόψει της δημόσιας εγγραφής

Η ανταλλαγή απόψεων έρχεται καθώς η Anthropic προετοιμάζεται για μια αρχική δημόσια προσφορά που αναμένεται τον Νοέμβριο με αποτίμηση 2 τρισεκατομμυρίων δολαρίων. Την περασμένη εβδομάδα, η εταιρεία ανακοίνωσε έσοδα τρίτου τριμήνου ύψους 16,8 δισεκατομμυρίων δολαρίων.businessinsider.com

Ο Amodei έκλεισε με μια νότα αμφισβήτησης. "Θα προσπαθούμε πάντα να γινόμαστε καλύτεροι, αλλά, επαναλαμβάνω, είμαι εξαιρετικά περήφανος για το ιστορικό μας και το υποστηρίζω", έγραψε.businessinsider.com