DeepSeek bude informovat Radu bezpečnosti OSN o rizicích AI

Čínský startup v oblasti umělé inteligence DeepSeek bude mezi společnostmi, které budou informovat Radu bezpečnosti OSN o rizicích spojených s AI, uvedla v úterý agentura Reuters. Jde o vzácné vystoupení čínské technologické firmy na jednom z nejvýznamnějších světových fór pro mezinárodní bezpečnost.reuters

Patnáctičlenná Rada bezpečnosti se má sejít ve středu 23. září, aby projednala AI a mezinárodní bezpečnost v době, kdy se světoví lídři scházejí v New Yorku na každoročním Valném shromáždění OSN. Generální ředitel OpenAI Sam Altman plánuje na schůzce vystoupit, přičemž diplomaté očekávají i účast vysokých představitelů společnosti Anthropic. DeepSeek a další čínské firmy v oblasti AI, včetně Moonshot, byly pozvány, aby přednesly svá prohlášení, ačkoliv zakladatel DeepSeek Liang Wenfeng se podle zdroje, který upozornil na to, že plány zůstávají proměnlivé, zúčastnit neplánuje.cnn+1

Debata o zpomalení AI rozděluje Washington a Peking

Schůzka se koná několik týdnů poté, co několik lídrů v oboru AI vyzvalo ke koordinovanému zpomalení vývoje stále výkonnějších systémů AI a varovalo, že by se mohly brzy začít zdokonalovat samy a vymknout se lidské kontrole. Generální tajemník OSN Antonio Guterres minulý týden varoval světové lídry, že rychle postupující AI představuje rizika, která nelze ignorovat, čímž se dostal do rozporu s prezidentem Donaldem Trumpem, který tvrdí, že stávající záruky jsou dostatečné.straitstimes+1

Čínská státní média odmítla výzvy ke zpomalení AI jako „příručku studené války“, jejímž cílem je zachovat dominanci Washingtonu v špičkových technologiích. Na rozdíl od lídrů amerických laboratoří šéfové předních čínských vývojářů modelů jen zřídka veřejně artikulovali možnost, že by stále schopnější systémy AI mohly klamat lidi nebo se vyhnout kontrole.reuters

Rozhovory o bezpečnosti AI mezi USA a Čínou nabírají na obrátkách

Zasedání Rady bezpečnosti přichází uprostřed širších diplomatických aktivit ohledně AI. Vysoce postavení američtí a čínští představitelé se dohodli na dalších rozhovorech o bezpečnosti AI, uvedl v neděli ministr financí Scott Bessent po setkání s čínským vicepremiérem Che Li-fengem v New Yorku. Bessent uvedl, že Washington navrhl mechanismus oznamování incidentů v oblasti AI, které jsou natolik závažné, že vyvolávají obavy o národní bezpečnost.bbc

Trumpova administrativa také ve středu na okraj Valného shromáždění svolává samostatnou akci na vysoké úrovni věnovanou AI, uvádí CNN. Jak zasedání Rady bezpečnosti, tak akce pořádaná USA slouží jako předehra k plánovanému setkání Trumpa a čínského prezidenta Si Ťin-pchinga, které se uskuteční koncem tohoto týdne ve Washingtonu a kde se očekává, že AI bude ústředním tématem.thehill+1

Rada bezpečnosti poprvé jednala o rizicích AI v roce 2023, kdy Čína varovala, že technologie by se neměla stát „utrženým koněm“ a USA varovaly před jejím zneužitím k cenzuře nebo represi lidí.reuters