Altman v komentáři pro FT volá po globálním orgánu pro bezpečnost AI pod vedením USA

Generální ředitel OpenAI Sam Altman publikoval 1. července v deníku Financial Times komentář s názvem „Takto můžeme učinit AI bezpečnou pro všechny“, v němž navrhl mezinárodní rámec pod vedením USA pro stanovení globálních bezpečnostních standardů AI. Článek argumentuje, že stanovení bezpečnostních standardů je „předpokladem pro širokou distribuci“ pokročilých systémů AI, a vyzývá volené zástupce – nikoli laboratoře AI –, aby stanovili pravidla upravující tuto technologii.threads+2

Tlak po summitu G7

Komentář přichází dva týdny poté, co se Altman připojil k dalším vedoucím pracovníkům v oblasti AI, Dariu Amodeimu z Anthropic a Demisi Hassabisovi z Google Alphabet Inc. ↗ 0.78% DeepMind, na summitu G7 v Évian-les-Bains ve Francii, kde trojice zasedla po boku hlav států největších demokratických ekonomik světa. Na tomto setkání Altman varoval lídry: „Nepřenášejte svou odpovědnost na laboratoře AI, jako je ta moje,“ zatímco Hassabis konkrétně vyzval k „orgánu pro standardy pod vedením USA, který v ideálním případě úzce spolupracuje s mezinárodním demokratickým společenstvím“.brookings+2

Koncept připomíná orgán, který Altman dříve přirovnal k Mezinárodní agentuře pro atomovou energii – organizaci, která by koordinovala testování bezpečnosti a normy správy mezi demokratickými zeměmi a zároveň by potenciálně zapojila konkurenční mocnosti včetně Číny. Bílý dům podle Financial Times zároveň urychlil své vlastní plány na standardy modelů AI.kucoin+1

Konvergence konkurence a správy

Tento tlak na správu přichází v době, kdy jsou tři přední laboratoře AI uzamčeny v sílící konkurenci v oblasti schopností modelů a podnikového přijetí. OpenAI se také připravuje na počáteční veřejnou nabídku akcií, což přidává finanční pobídky k hledání regulační jasnosti. Anthropic a Google DeepMind v širokém smyslu podpořily stejný rámec mezinárodní koordinace, ačkoli Amodei argumentoval, že spolupráce by měla zahrnovat strukturovaný přístup k hraničním modelům a obchodu s čipy, přičemž výslovně vyloučil Čínu z určitých ujednání.stocktwits+2

Otázka vymahatelnosti

Analytici politiky poznamenali, že výzva ke standardům je pouze prvním krokem. Analýza Brookings Institution publikovaná 30. června argumentovala, že jakýkoli výsledný rámec musí být vymahatelný – nikoli dobrovolný –, přičemž poukázala na paralely s Finančním akčním výborem (FATF) a bankovními standardy Basel III, které oba vzešly z předchozích akcí G7 a nesly skutečné důsledky za nedodržení. Analýza naléhala na vlády, aby rozšířily jakýkoli proces standardizace nad rámec technických obav a zahrnuly „behaviorální standardy“ řešící konkurenci, inovace a veřejný zájem, s účastí občanské společnosti po boku průmyslu.brookings