Altman a Amodei budou v OSN jednat o rizicích umělé inteligence

Generální ředitel společnosti Anthropic Dario Amodei a šéf OpenAI Sam Altman vystoupí ve středu před Radou bezpečnosti OSN na zasedání věnovaném budoucnosti umělé inteligence, která dominuje diskusím na výročním Valném shromáždění OSN v New Yorku.

Klíčové zasedání Rady bezpečnosti

Schůzka, kterou pořádá Francie v rámci svého předsednictví v patnáctičlenné radě, zahrne také příspěvky Yoshuy Bengia, spolupředsedy panelu OSN pro AI, a generálního ředitele Hugging Face Clémenta Delangue, uvedla agentura Bloomberg. Amodei se má zúčastnit vzdáleně. Mluvčí OpenAI pro agenturu Reuters uvedl, že Altman se ve svém projevu zaměří na "kroky, které OpenAI podniká k zajištění bezpečnosti AI a jejího přínosu pro lidi po celém světě, spolu s potřebou mezinárodní koordinace a sdílených bezpečnostních standardů".thenextweb+3

Jedná se teprve o druhé zasedání Rady bezpečnosti věnované AI od července 2023, kdy Čína varovala, že technologie by se neměla stát "splašeným koněm". Podle francouzského podkladového dokumentu se schůzka zaměří na zneužití AI a riziko ztráty kontroly nad pokročilými modely.ctvnews+1

Spolupráce, konkurence a antimonopolní napětí

Briefing přichází v době sílící debaty o tom, jak by měly konkurenční laboratoře spolupracovat na bezpečnosti. Server The Information 21. září informoval, že OpenAI a Anthropic dříve v tomto roce vyjednaly právně závaznou dohodu o vzájemném testování zranitelností svých modelů. Podle návrhu podmínek by každá společnost získala přístup ke komerčně dostupným API té druhé, aniž by si ponechala data.news.sbs+1

Tento impuls ke spolupráci již vyvolal právní kontrolu. Dne 12. září publikoval Amodei esej, v níž vyzval firmy k pomalejšímu vývoji a zavedení nezávislých hodnotitelů uvnitř laboratoří. Poté, co Altman a Elon Musk návrh veřejně podpořili, podali žalobci 19. září u amerického okresního soudu v severní Kalifornii hromadnou žalobu. Tvrdí v ní, že Anthropic, OpenAI, SpaceXAI a Google společnosti Alphabet ↘ 0.99% porušily Shermanův antimonopolní zákon koordinovaným omezováním pokroku v oblasti AI.apnews+2

Trump mění název AI na Valném shromáždění

Několik hodin před plánovaným zasedáním Rady bezpečnosti využil prezident Trump svůj úterní projev na Valném shromáždění k prohlášení, že Spojené státy nahradí "umělou inteligenci" pojmem "superinteligence" ve všech vládních dokumentech. "Použití slova umělá dělá z inteligence něco falešného," řekl Trump světovým lídrům. "Není to falešné. Je to ve skutečnosti úžasné". Trump rovněž odmítl mezinárodní snahy o regulaci technologie s tím, že nebude "dusit růst něčeho, co bude větší než průmyslová revoluce".breitbart+1

Tyto dvě události, Trumpovo přejmenování a briefing Rady bezpečnosti, podtrhují rostoucí propast mezi deregulačním postojem Washingtonu a snahou představitelů AI a spojeneckých vlád o zavedení koordinovaných bezpečnostních mantinelů.