Lídři v oblasti AI se přou o zpomalení vývoje před zasedáním Rady bezpečnosti OSN

Generální ředitel OpenAI Sam Altman bude ve středu během Valného shromáždění OSN v New Yorku informovat Radu bezpečnosti OSN, zatímco se na globální scénu přenáší prohlubující se rozkol mezi lídry AI průmyslu ohledně tempa vývoje.reuters+1

Zasedání, které svolala Francie v rámci svého rotujícího předsednictví a kterému předsedá francouzský ministr zahraničí Jean-Noël Barrot, se koná několik týdnů poté, co generální ředitel Anthropic Dario Amodei publikoval esej s názvem „We Must Pace the Frontier“, která změnila debatu o bezpečnosti AI. Mluvčí OpenAI pro Reuters uvedl, že Altmanovy poznámky se zaměří na mezinárodní koordinaci a sdílené bezpečnostní standardy.finance.yahoo+3

Tříkrokový plán pro zpomalení AI

Amodeiho esej z 12. září argumentuje, že pokrok v oblasti AI se od léta 2026 zrychlil „drasticky rychleji“, a to díky rostoucí schopnosti AI vytvářet další generaci systémů umělé inteligence. Navrhl tříkrokový plán: začlenění nezávislých externích hodnotitelů do každé laboratoře vyvíjející špičkové modely, koordinaci bezpečnostních standardů mezi společnostmi v demokratických zemích a nakonec vytvoření globální koordinace zahrnující i Čínu.bnnbloomberg+2

Altman návrh na síti X podpořil slovy: „Souhlasím s Dariem, že musíme tempo vývoje zpomalit,“ a zavázal OpenAI k tomu, aby nezávislým hodnotitelům poskytla přístup na úrovni zaměstnanců a zveřejňovala zprávy o neočekávaném chování AI. Elon Musk rovněž Amodeiho podpořil, když jednoduše napsal: „Dario má pravdu“.reuters+1

Shoda však zdaleka není univerzální. Generální ředitel společnosti Meta ↗ 1.02% Mark Zuckerberg argumentoval, že konkurence a odpovědnost dávají společnostem dostatečnou motivaci k tomu, aby v oblasti bezpečnosti jednaly individuálně. Generální ředitel Nvidia ↘ 1.47% Jensen Huang potřebu nových regulací odmítl a pro CBS News uvedl, že existuje „0% šance“, že rok 2030 přinese konec světa, a vyzval průmysl, aby uplatňoval stávající zákony o odpovědnosti.bnnbloomberg

Globální tlak roste

Generální tajemník OSN António Guterres označil AI za jednu ze „tří existenčních hrozeb“, kterým svět čelí, vedle klimatické krize a prohlubujících se nerovností. „Svět si nemůže dovolit závod ke dnu v otázce bezpečnosti AI,“ řekl minulý týden, přičemž globální spolupráci označil za „nezbytnou“ a varoval, že dobrovolné pauzy omezené na několik zemí nebudou fungovat.news.un+2

Britský král Karel III. minulý týden hostil v Dumfries House ve Skotsku vedoucí představitele společností Nvidia, Google DeepMind Alphabet Inc. ↘ 3.58%, OpenAI a Anthropic a varoval před „existenčními nebezpečími“, pokud by se AI dostala do nesprávných rukou. Evropská komise výzvy k pauze podpořila, přičemž předsedkyně Ursula von der Leyen uvedla, že pozve laboratoře vyvíjející špičkové modely k diskuzi o rizicích.reuters+2

Ne všechny vlády sdílejí stejné obavy. Prezident Donald Trump na síti Truth Social napsal, že AI potřebuje pouze „SILNÉHO A CHYTRÉHO (s vysokým IQ!) PREZIDENTA“ a varoval, že pochybnosti o vývoji AI by prospěly Číně. Čínský státní deník Global Times obvinil Amodeiho ze snahy „omezit vývoj AI v Číně prostřednictvím technologických bariér a regulačních monopolů“.bnnbloomberg

Středeční zasedání Rady bezpečnosti, které je od roku 2023 druhým specializovaným zasedáním věnovaným rizikům AI, prověří, zda se sílící volání po obezřetnosti dokáže přetavit v něco víc než jen rétoriku.tbsnews+1