Anthropic, OpenAI und Google diskutieren Gremium für KI-Sicherheitsstandards

Die drei führenden Entwickler von hochmoderner künstlicher Intelligenz – Anthropic, OpenAI und Google Alphabet Inc. ↗ 1.53% DeepMind – führen laut einem am Sonntag veröffentlichten Bericht von The Information vertrauliche Gespräche über die Bildung eines gemeinsamen Branchengremiums für KI-Standards. Die Diskussionen laufen bereits seit mindestens Juli und damit noch vor dem öffentlichen Appell von Anthropic-CEO Dario Amodei am Samstag, die KI-Entwicklung zu verlangsamen.theinformation+1

Vorstoß für gemeinsame Sicherheitsprotokolle

Die geplante Organisation soll gemeinsame Protokolle für technische Tests und die Prüfung von KI-Modellen vor deren Veröffentlichung etablieren. Sam Altman, Demis Hassabis und Amodei haben sich jeweils öffentlich für eine von den USA angeführte Zusammenarbeit bei KI-Sicherheitsstandards ausgesprochen, einschließlich internationaler Foren für Tests und Risikoanalysen.cryptobriefing+1

In entscheidenden Details sind sich die drei Labore jedoch noch uneins. Anthropic tendiert zu einer Partnerschaft mit der Regierung, wobei ihr Leiter für Red-Teaming im Juli 2026 öffentlich für Standards plädierte, die gemeinsam mit staatlichen Stellen entwickelt werden. OpenAI hat den Fokus auf freiwillige Branchenregeln gelegt und im September einen Blogbeitrag veröffentlicht, in dem sich das Unternehmen verpflichtet, Standards unabhängig von staatlichen Eingriffen voranzutreiben. Die Gespräche bauen auf einer früheren Koordination durch das Frontier Model Forum auf, einem Konsortium, dem auch Microsoft ↗ 0.65% angehört.aiweekly+1

Amodeis Essay als Grundlage

Amodeis etwa 3.800 Wörter umfassender Essay, der am Samstag veröffentlicht wurde, bildete den öffentlichen Rahmen für die privaten Gespräche. Er warnte davor, dass KI innerhalb von sechs bis zwölf Monaten in der Lage sein könnte, automatisierte Schwärme zu steuern, die das gesamte Internet übernehmen könnten, neben anderen Risiken. Ich glaube, wenn wir durch eine Verlangsamung ein zusätzliches Jahr oder zwei gewinnen, bevor Modelle kritische Leistungsniveaus erreichen, und wir diese Zeit nutzen, um die Ausrichtung zu verbessern, könnten wir das Risiko, dass etwas ernsthaft schiefgeht, erheblich verringern, schrieb Amodei.latimes

Sein Drei-Stufen-Plan sieht vor, unabhängige Gutachter in KI-Laboren zu platzieren, gemeinsame Sicherheitsstandards zwischen Unternehmen in demokratischen Ländern zu koordinieren und eine globale Abstimmung anzustreben, auch mit autoritären Regierungen. Anthropic hat sich bereits einseitig zum ersten Schritt verpflichtet und bietet externen Gutachtern Arbeitsplätze in ihren Büros, Zugangsausweise und Firmenlaptops an.techcrunch+2

Die China-Frage

Das wohl umstrittenste Element des Vorschlags ist die internationale Koordination. Amodei räumte am Sonntag ein, dass China das schwierigste Dilemma darstellt: das Risiko, dass eine Verlangsamung der US-Entwicklung lediglich Wettbewerbern einen Vorteil verschafft, die sich nicht an dieselben Regeln halten. Der KI-Sicherheitsindex des Future of Life Institute vom Sommer 2026 unterstrich breitere Bedenken hinsichtlich der Sicherheitsbilanz der Branche und bewertete Anthropic unter den drei Unternehmen am besten mit C+, gefolgt von OpenAI mit C und Google DeepMind mit C.cnbc+1