Accenture och Anthropic satsar 1 miljard dollar var på säkerhetstestning av AI

Accenture ↘ 4.73% och Anthropic meddelade på fredagen ett partnerskap för att bygga ett team av inbäddade utvärderare som ska arbeta internt hos Anthropic för att bedöma säkerheten i dess avancerade AI-modeller. Båda företagen förbinder sig att investera minst 1 miljard dollar vardera under fem år i initiativ för AI-säkerhet.investing+1

Affären markerar ett av de största företagsåtagandena för säkerhetsutvärdering av AI och introducerar en ny struktur där externa utvärderare får tillgång på anställningsnivå till en AI-utvecklares interna verksamhet.

Hur inbäddad utvärdering fungerar

Till skillnad från traditionella externa revisorer kommer de inbäddade utvärderarna att sitta på Anthropics kontor med passerkort, företagsdatorer och behörigheter som kan jämföras med interna team för riskbedömning, enligt tillkännagivandet. Denna tillgång gör att utvärderarna kan observera modeller under träning, följa beslut om hur modeller byggs och distribueras samt tala direkt med anställda.unite

Arbetet kommer att ledas av Faculty, ett specialiserat AI-företag som Accenture förvärvat och som har erfarenhet av att testa modeller för ledande AI-laboratorier och bygga system för myndigheter och försvarskunder, inklusive det brittiska sjukvårdssystemets tidigvarningssystem under covid-19-pandemin.finance.yahoo

"Säkerhet kräver både djup teknisk expertis och en tydlig förståelse för hur AI används i den verkliga världen," säger Julie Sweet, styrelseordförande och vd för Accenture. "Inbäddad utvärdering är ett framväxande område och vi ser fram emot att samarbeta med Anthropic för att bidra till att påskynda utvecklingen av inbäddade utvärderare."finance.yahoo

Transparens och publiceringsrättigheter

Enligt villkoren som beskrivs i en essä från september 2026 av Anthropics vd Dario Amodei, med titeln "We Must Pace the Frontier," kommer externa granskare att ha rätt att publicera resultat om risknivåer, incidenter och praxis utan redaktionell kontroll från Anthropic. Företaget behåller en begränsad möjlighet att maskera säkerhetskänsligt eller juridiskt privilegierat material, men kan inte undertrycka ogynnsamma slutsatser. Granskare får offentliggöra om en maskering tagit bort något som varit väsentligt för deras resultat.unite

I essän skisserade Amodei en trestegsplan – inbäddade utvärderare, samordning mellan AI-företag i demokratiska länder och global samordning – och uppmanade regeringar att kräva att andra ledande laboratorier antar liknande åtgärder. "Vi måste sakta ner takten i hur vi förbättrar kapaciteten hos AI-modeller," skrev han.unite

Ett icke-exklusivt arrangemang

Partnerskapet är icke-exklusivt. Anthropic uppger att de planerar att tillkännage ytterligare utvärderare under de kommande veckorna och för dialog med METR och andra ideella organisationer för att pilottesta delar av inbäddad utvärdering. Arrangemanget utökar en bredare relation som inleddes i december 2025, då de två företagen lanserade Accenture Anthropic Business Group och började utbilda cirka 30 000 Accenture-anställda i Anthropics Claude-modeller.unite

Accentures aktiekurs steg i den tidiga handeln efter tillkännagivandet.seekingalpha