Anthropic, OpenAI a Google jednají o vytvoření orgánu pro bezpečnostní standardy AI

Tři přední vývojáři pokročilé umělé inteligence – Anthropic, OpenAI a Google Alphabet Inc. ↗ 1.53% DeepMind – vedou zákulisní diskuse o vytvoření společného orgánu pro průmyslové standardy v oblasti AI, uvádí nedělní zpráva The Information. Jednání probíhají nejméně od července, tedy ještě předtím, než generální ředitel Anthropic Dario Amodei v sobotu veřejně vyzval odvětví ke zpomalení vývoje AI.theinformation+1

Tlak na sdílené bezpečnostní protokoly

Navrhovaná organizace by zavedla sdílené protokoly pro technické testování a audity modelů AI před jejich vydáním. Sam Altman, Demis Hassabis a Amodei veřejně vyzvali ke spolupráci pod vedením USA v oblasti bezpečnostních standardů AI, včetně mezinárodních fór pro testování a analýzu rizik.cryptobriefing+1

Laboratoře se však stále neshodnou na klíčových detailech. Anthropic se přiklání k partnerství s vládou, přičemž jeho vedoucí týmu pro bezpečnost v červenci 2026 veřejně obhajoval standardy vyvinuté společně s vládními orgány. OpenAI zdůrazňuje dobrovolná průmyslová pravidla a v září publikovala příspěvek, v němž se zavázala k prosazování standardů bez ohledu na vládní zásahy. Diskuse navazují na dřívější koordinaci prostřednictvím Frontier Model Forum, konsorcia, jehož součástí je i Microsoft ↗ 0.65%.aiweekly+1

Esej Daria Amodeie udává tón

Esej Daria Amodeie v rozsahu přibližně 3 800 slov, zveřejněná v sobotu, poskytla veřejné pozadí soukromým rozhovorům. Varoval, že AI by mohla být během šesti až 12 měsíců schopna vést automatizované roje, které by mohly převzít kontrolu nad celým internetem. Věřím, že pokud by nám zpomalení koupilo rok nebo dva navíc, než modely dosáhnou kritické úrovně schopností, a my bychom tento čas využili k pokroku v zarovnání, mohli bychom výrazně snížit riziko, že se něco vážně pokazí, napsal Amodei.latimes

Jeho tříkrokový plán vyzývá k začlenění nezávislých hodnotitelů přímo do laboratoří AI, koordinaci společných bezpečnostních standardů mezi společnostmi v demokratických zemích a globální koordinaci, včetně spolupráce s autoritářskými vládami. Anthropic se již jednostranně zavázal k prvnímu kroku a nabízí externím hodnotitelům zázemí ve svých kancelářích.techcrunch+2

Otázka Číny

Nejspornějším prvkem návrhu může být mezinárodní koordinace. Amodei v neděli uznal, že Čína představuje nejtěžší dilema – riziko, že zpomalení vývoje v USA jednoduše poskytne výhodu konkurentům, kteří stejná pravidla nedodržují. Index bezpečnosti AI institutu Future of Life z léta 2026 podtrhl širší obavy o bezpečnostní výsledky odvětví, když ohodnotil Anthropic známkou C+, následovaný OpenAI se známkou C a Google DeepMind se známkou C.cnbc+1