Accenture und Anthropic investieren je 1 Milliarde Dollar in KI-Sicherheitstests

Accenture ↘ 1.76% und Anthropic gaben am Freitag eine Partnerschaft bekannt, um ein Team von eingebetteten Prüfern aufzubauen, die direkt bei Anthropic arbeiten werden, um die Sicherheit der fortschrittlichen KI-Modelle des Unternehmens zu bewerten. Beide Unternehmen verpflichten sich, über fünf Jahre mindestens 1 Milliarde Dollar in Initiativen zur KI-Sicherheit zu investieren.investing+1

Die Vereinbarung stellt eine der größten Unternehmensverpflichtungen zur KI-Sicherheitsbewertung dar und führt eine neuartige Struktur ein, bei der externe Prüfer Zugriff auf die internen Abläufe eines KI-Entwicklers auf Mitarbeiterebene erhalten.

Wie eingebettete Evaluierung funktioniert

Im Gegensatz zu herkömmlichen externen Auditoren werden die eingebetteten Prüfer laut Ankündigung in den Büros von Anthropic sitzen und über Zugangsausweise, Firmenlaptops und Berechtigungen verfügen, die denen interner Risikobewertungsteams entsprechen. Dieser Zugriff ermöglicht es den Prüfern, Modelle während des Trainings zu beobachten, Entscheidungen über den Aufbau und die Bereitstellung von Modellen nachzuvollziehen und direkt mit Mitarbeitern zu sprechen.unite

Die Arbeit wird von Faculty geleitet, einem spezialisierten KI-Unternehmen, das von Accenture übernommen wurde und Erfahrung in der Modellprüfung für führende KI-Labore sowie in der Entwicklung von Systemen für Regierungs- und Verteidigungskunden hat, darunter das Frühwarnsystem des britischen National Health Service während der COVID-19-Pandemie.finance.yahoo

"Sicherheit erfordert sowohl tiefgreifende technische Expertise als auch ein klares Verständnis dafür, wie KI in der realen Welt eingesetzt wird", sagte Julie Sweet, Vorsitzende und CEO von Accenture. "Eingebettete Evaluierung ist ein aufstrebender Bereich, und wir freuen uns darauf, mit Anthropic zusammenzuarbeiten, um die Entwicklung eingebetteter Prüfer zu beschleunigen."finance.yahoo

Transparenz und Veröffentlichungsrechte

Gemäß den Bedingungen, die in einem Aufsatz des Anthropic-CEO Dario Amodei vom September 2026 mit dem Titel "We Must Pace the Frontier" beschrieben wurden, haben externe Prüfer das Recht, Ergebnisse zu Risikoniveaus, Vorfällen und Praktiken ohne redaktionelle Kontrolle durch Anthropic zu veröffentlichen. Das Unternehmen behält sich ein eng begrenztes Recht vor, sicherheitsrelevante oder rechtlich geschützte Materialien zu schwärzen, kann jedoch keine ungünstigen Schlussfolgerungen unterdrücken. Prüfer dürfen öffentlich machen, wenn eine Schwärzung etwas entfernt hat, das für ihre Ergebnisse wesentlich war.unite

In dem Aufsatz skizzierte Amodei einen Drei-Stufen-Plan – eingebettete Prüfer, Koordination zwischen KI-Unternehmen in demokratischen Ländern und globale Koordination – und forderte Regierungen dazu auf, von anderen führenden Laboren ähnliche Maßnahmen zu verlangen. "Wir müssen das Tempo verlangsamen, mit dem wir die Fähigkeiten von KI-Modellen verbessern", schrieb er.unite

Eine nicht-exklusive Vereinbarung

Die Partnerschaft ist nicht exklusiv. Anthropic teilte mit, dass es plant, in den kommenden Wochen weitere Prüfer bekannt zu geben, und steht im Dialog mit METR und anderen gemeinnützigen Organisationen, um Elemente der eingebetteten Evaluierung zu testen. Die Vereinbarung erweitert eine breitere Beziehung, die im Dezember 2025 geschlossen wurde, als die beiden Unternehmen die Accenture Anthropic Business Group starteten und begannen, etwa 30 000 Accenture-Mitarbeiter an den Claude-Modellen von Anthropic zu schulen.unite

Die Aktie von Accenture stieg nach der Ankündigung im frühen Handel.seekingalpha