Accenture a Anthropic investují miliardu dolarů do testování bezpečnosti AI

Společnosti Accenture ↘ 1.76% a Anthropic v pátek oznámily partnerství, jehož cílem je vytvořit tým integrovaných hodnotitelů, kteří budou přímo v prostorách Anthropic posuzovat bezpečnost jejích špičkových modelů umělé inteligence. Obě společnosti se zavázaly investovat minimálně 1 miliardu dolarů během pěti let do iniciativ zaměřených na bezpečnost AI.investing+1

Tato dohoda představuje jeden z největších firemních závazků v oblasti hodnocení bezpečnosti AI a zavádí nový model, v němž externí hodnotitelé získávají přístup k interním operacím vývojáře AI na úrovni zaměstnanců.

Jak funguje integrované hodnocení

Na rozdíl od tradičních externích auditorů budou integrovaní hodnotitelé sedět přímo v kancelářích Anthropic, budou mít přístupové karty, firemní notebooky a oprávnění srovnatelná s interními týmy pro posuzování rizik, uvádí oznámení. Tento přístup hodnotitelům umožňuje sledovat modely během tréninku, sledovat rozhodovací procesy při vývoji a nasazování modelů a přímo komunikovat se zaměstnanci.unite

Práci povede společnost Faculty, specializovaná firma na AI, kterou Accenture získala a která má zkušenosti s testováním modelů pro přední laboratoře AI a budováním systémů pro vládní a obranné klienty, včetně systému včasného varování britské Národní zdravotní služby (NHS) během pandemie COVID-19.finance.yahoo

"Bezpečnost vyžaduje jak hluboké technické znalosti, tak jasné pochopení toho, jak se AI používá v reálném světě," uvedla Julie Sweet, předsedkyně a generální ředitelka Accenture. "Integrované hodnocení je nově vznikající oblast a těšíme se na spolupráci s Anthropic, která pomůže urychlit rozvoj integrovaných hodnotitelů."finance.yahoo

Transparentnost a práva na publikaci

Podle podmínek popsaných v eseji generálního ředitele Anthropic Daria Amodeie ze září 2026 s názvem "We Must Pace the Frontier" budou mít externí recenzenti právo publikovat zjištění o úrovních rizik, incidentech a postupech bez redakční kontroly ze strany Anthropic. Společnost si ponechává omezenou možnost redigovat materiály citlivé z hlediska bezpečnosti nebo právně privilegované, ale nemůže potlačit nepříznivé závěry. Recenzenti mohou veřejně oznámit, pokud redakční zásah odstranil něco podstatného pro jejich zjištění.unite

V eseji Amodei nastínil tříkrokový plán – integrovaní hodnotitelé, koordinace mezi společnostmi zabývajícími se AI v demokratických zemích a globální koordinace – a vyzval vlády, aby vyžadovaly po ostatních špičkových laboratořích přijetí podobných opatření. "Musíme zpomalit tempo, kterým zlepšujeme schopnosti modelů AI," napsal.unite

Neexkluzivní dohoda

Partnerství není exkluzivní. Anthropic uvedl, že v nadcházejících týdnech plánuje oznámit další hodnotitele a vede dialog s METR a dalšími neziskovými organizacemi o pilotním testování prvků integrovaného hodnocení. Dohoda rozšiřuje širší vztah navázaný v prosinci 2025, kdy obě společnosti spustily Accenture Anthropic Business Group a začaly školit přibližně 30 000 profesionálů Accenture v používání modelů Claude od Anthropic.unite

Akcie Accenture po oznámení v úvodním obchodování posílily.seekingalpha