Anthropic-CEO räumt Fehler ein, verteidigt KI-Wettlauf

Anthropic-CEO Dario Amodei antwortete am Dienstagabend, dem 20. Oktober, in einer fast 2 000 Wörter langen Antwort auf X auf einen der prominentesten Sicherheitskritiker seines Unternehmens. Er räumte ein, dass Anthropic einige Probleme falsch gehandhabt habe, argumentierte jedoch, dass die Vorreiterrolle bei KI der beste Weg sei, die Technologie sicher zu machen, berichtete Business Insider. Er reagierte auf Nathan Calvin, Chief Strategy Officer der Interessenvertretung Encode AI. In einem über 1 500 Wörter langen Beitrag am Montag listete Calvin neun Aktionen auf, die seiner Meinung nach zeigten, dass Anthropic auf Kosten seiner Sicherheitsverpflichtungen auf Superintelligenz zusteuere. Dazu gehörten Rechenleistungsverträge im Wert von über 500 Milliarden Dollar und eine wachsende Abhängigkeit von Claude beim Aufbau eigener Modelle.businessinsider.com

Eine Gegenliste kostspieliger Entscheidungen

"Unsere Strategie war immer das, was ich als 'Wettlauf an die Spitze' bezeichnet habe: Indem wir zeigen, wie man die Technologie verantwortungsvoll aufbaut, können wir die Messlatte für die gesamte Branche höher legen", schrieb Amodei. Er schrieb auch, dass "jede Entscheidung, zu jedem Thema, immer als ein ruchloser Plan dargestellt werden kann".indiatoday.in+1

Anschließend legte er seine eigenen neun Entscheidungen dar, die seiner Aussage nach kommerziell kostspielig waren, aber die Sicherheit verbesserten. Dazu gehörten die Unterstützung von Kaliforniens SB 53, die Einhaltung strenger Sicherheitsvorkehrungen gegen biologischen Missbrauch und die Verzögerung der breiteren Veröffentlichung fortschrittlicher Modelle, bis stärkere Cybersicherheitsvorkehrungen bereit waren. Er verwies auch darauf, das Mythos-Modell nur einer kleinen Gruppe von Cybersicherheitspartnern zugänglich gemacht und Verkäufe an Unternehmen unter Kontrolle des chinesischen Staates eingeschränkt zu haben. Er räumte ein, dass das Zurückhalten von Spitzenkapazitäten "breitere Kosten hatte", einschließlich langsamerer Fortschritte in der Biologie.businessinsider.com+1

Die Kontroverse um den Gesetzesentwurf

Amodei gab zu, dass Anthropic einige von Calvins Punkten besser hätte handhaben können. Einer betraf einen Entwurf für ein Bundesgesetz, den das Unternehmen diesen Monat im Kongress verbreitete und der laut Kritikern die Blockierung gefährlicher Modelle durch die Regierung erschweren würde. Unter dem Entwurf, über den zuerst Politico berichtete, könnten Bundesbeamte ein Modell nur stoppen, wenn es "ein vorhersehbares, unmittelbar bevorstehendes Risiko von mehr als 1 Milliarde Dollar an Schäden oder den Tod oder die schwere Verletzung von mehr als 50 Personen" darstellt. Ein Sprecher von Anthropic sagte, der Entwurf spiegele das Advanced AI Framework des Unternehmens wider.politico.com+3

Calvin kritisierte Anthropic auch für die Änderung seiner Richtlinie zur verantwortungsvollen Skalierung. Im Februar ließ das Unternehmen die Verpflichtung fallen, die Entwicklung zu pausieren, falls die Sicherheitsvorkehrungen hinter die Fähigkeiten der Modelle zurückfielen. "Warum neigen die Fehler systematisch dazu, die Interessen von Anthropic zu schützen und zu begünstigen?", fragte Calvin.chaincatcher.com+1

Prüfung vor dem Börsengang

Der Austausch findet statt, während sich Anthropic auf einen Börsengang vorbereitet, der für November mit einer Bewertung von 2 Billionen Dollar erwartet wird. Letzte Woche meldete das Unternehmen einen Umsatz von 16,8 Milliarden Dollar im dritten Quartal.businessinsider.com

Amodei endete mit einem trotzigen Ton. "Wir werden immer versuchen, es besser zu machen, aber ich bin wieder einmal extrem stolz auf unsere Erfolgsbilanz und stehe dazu", schrieb er.businessinsider.com