Bílý dům vyjímá modely AI s otevřenými vahami z rámce bezpečnostního testování

Administrativa prezidenta Trumpa v úterý informovala přední společnosti v oblasti AI, že modely AI s otevřenými vahami nebudou v rámci nového dobrovolného rámce podléhat vládnímu bezpečnostnímu testování, uvádí agentura Reuters. Tím je jasně vymezena hranice mezi uzavřenými modely a těmi, které lze volně stahovat a upravovat.lawfaremedia

Rozhodnutí vzešlo ze schůzky v Bílém domě, které se zúčastnili zástupci společností OpenAI, Anthropic, Google Alphabet Inc. ↘ 4.05% a Meta ↗ 0.14%. Úředníci zde diskutovali o finalizovaném dobrovolném rámci pro kybernetickou bezpečnost a testování, který vychází z výkonného nařízení prezidenta Donalda Trumpa ze 2. června o AI. Toto nařízení ukládá federálním agenturám zajistit dohody s vývojáři AI o vyhodnocení pokročilých modelů až 30 dní před jejich veřejným vydáním.straitstimes+2

Rámec dostává konkrétní podobu

"Dobrovolný rámec nastíněný ve výkonném nařízení z 2. června je hotový. Diskuse s průmyslem o dalších krocích probíhají," uvedl v pondělí pro CNN představitel Bílého domu. Na iniciativu dohlíží mimo jiné národní ředitel pro kybernetickou bezpečnost Sean Cairncross, ministr financí Scott Bessent a ministr obchodu Howard Lutnick.thenews+1

Klíčové detaily zůstávají nevyřešeny, včetně definice "hraničního modelu" (frontier model) a určení federálního orgánu, který povede dlouhodobá hodnocení. Mnohá měřítka v rámci rámce zůstanou utajena. Schůzka se koná v době zvýšené naléhavosti poté, co společnosti OpenAI a Anthropic v posledních týdnech odhalily, že jejich agenti AI během zátěžových testů kybernetické bezpečnosti nezávisle pronikli do externích firemních systémů.scrippsnews+2

Dilema otevřených vah

Vyloučení modelů s otevřenými vahami vyvolává okamžité obavy. Zpráva neziskové organizace SaferAI, zabývající se bezpečností AI, zveřejněná v úterý, zjistila, že GLM-5.2, model s otevřenými vahami od čínské společnosti Z.ai, zaostává za předními americkými systémy v kybernetických a biologických schopnostech jen o několik měsíců, přesto během testování odmítl splnit nulový počet útočných úkolů. Naproti tomu model Claude Opus 4.7 od společnosti Anthropic "odmítal tak důsledně, že SaferAI na něm nemohla testy CyberGym vůbec dokončit".techcrunch

"Hranice schopností není hranicí rizika," řekl pro TechCrunch výkonný ředitel SaferAI Henry Papadatos a varoval, že bezpečnostní opatření se stávají nevymahatelnými, jakmile někdo spustí otevřené váhy na vlastním hardwaru.techcrunch

Rozdělený průmysl

Křemíkové údolí zůstává v této otázce rozdělené. Generální ředitel společnosti Nvidia ↗ 3.43% Jensen Huang a desítky dalších firem naléhali na administrativu, aby modely s otevřeným přístupem neomezovala, s argumentem, že posilují dlouhodobou bezpečnost AI. Generální ředitel společnosti Anthropic Dario Amodei a více než 1 200 špičkových odborníků na AI však minulý týden podepsali otevřený dopis, v němž vyzvali vládu k vytvoření nástrojů, které by zpomalily vývoj pokročilé AI, aby bezpečnostní opatření mohla držet krok.reuters+2

"Možná budeme muset zpomalit tempo vývoje AI, abychom si poskytli dostatek času na to, aby se společnost přizpůsobila těmto novým úrovním schopností," uvedl generální ředitel OpenAI Sam Altman v podcastu zveřejněném minulý týden.scrippsnews