Král Karel III. pořádá ve Skotsku summit o bezpečnosti AI

Král Karel III. se ve čtvrtek v Dumfries House ve skotském hrabství Ayrshire setkává s představiteli předních společností zabývajících se umělou inteligencí, zatímco odvětví čelí sílícím obavám, že nekontrolovaný vývoj AI by mohl ohrozit lidstvo.

Lídři společností Nvidia ↗ 0.82%, Google Alphabet Inc. ↘ 0.61% DeepMind, OpenAI, Anthropic a dalších firmě se scházejí v sídle Královské nadace na jednání, které Buckinghamský palác popsal jako diskusi o tom, „zda lze vypracovat společný soubor principů“, jež by řídily budoucnost AI. Od setkání, které zprostředkovala britská nezisková organizace Ditchley Foundation, se neočekává uzavření závazných dohod.nytimes+2

Královská výzva k umírněnosti

„Rozhodnutí přijatá v této formativní době utvářejí svět, který zdědí budoucí generace,“ uvede král v úvodním projevu, jehož text palác předem zveřejnil. „Předpokládaným úkolem není pouhý posun technologií vpřed, ale zajištění toho, aby pevně sloužily lidstvu, komunitě a přírodnímu světu.“nytimes

Mezi přibližně 30 účastníky jsou generální ředitel společnosti Nvidia Jensen Huang, předseda Google DeepMind Demis Hassabis, finanční ředitelka OpenAI Sarah Friar a britský ministr pro AI Kanishka Narayan. Společnost Anthropic odmítla prozradit svého zástupce, očekává se také účast poradce Vatikánu pro AI Paola Benantiho.politico+2

Rozpory v odvětví v plné nahotě

Summit je prvním mezinárodním setkáním předních firem v oblasti AI od chvíle, kdy generální ředitel společnosti Anthropic Dario Amodei publikoval rozsáhlý esej vyzývající ke koordinovanému zpomalení vývoje AI s varováním, že další pokrok bez bezpečnostních pojistek by mohl vést ke katastrofě. Generální ředitel OpenAI Sam Altman, Elon Musk a Hassabis vyjádřili s Amodeiho směrem souhlas.abcnews

Odvětví však zůstává rozdělené. Generální ředitel společnosti Meta ↗ 0.46% Mark Zuckerberg se postavil proti a argumentuje, že každá společnost by měla bezpečnost zajišťovat samostatně a že „významná odpovědnost“ již poskytuje dostatečnou motivaci. Huang rovněž kritizoval snahy o zpomalení s tím, že „tržní síly již fungují, nepotřebujeme žádné nové zákony“. Předseda představenstva společnosti Microsoft ↘ 1.37% Satya Nadella vyjádřil podporu uvážlivému tempu, ale varoval, že řízení bezpečnosti „nemůže být kontrolováno hrstkou subjektů“.abcnews

Geopolitické napětí na obzoru

Setkání se koná na pozadí širšího geopolitického sporu o regulaci AI. Prezident Trump v pondělí odmítl varování před hrozbou AI jako „nemocné spiknutí“ a na síti Truth Social napsal, že „kdo vyhraje AI, vyhraje vše“. Demokratičtí zákonodárci vyzvali Kongres k přijetí legislativy na ochranu před AI, zatímco předseda Sněmovny reprezentantů Mike Johnson varoval, že unáhlená regulace by znamenala, že USA „prohrají závod s Čínou“.cbsnews

Dynamika vztahů mezi USA a Čínou přidává další vrstvu složitosti. Ačkoli čínský prezident Sij Ťin-pching varoval před nebezpečím „ztráty kontroly“ nad AI, Peking odmítl výzvy ke zpomalení vývoje a tento koncept vnímá jako snahu Washingtonu „prosadit svou technologickou dominanci“, uvádí Leia Wang, odbornice z Carnegie Endowment for Peace. Trump se má se Sijem znovu setkat 24. září ve Washingtonu, kde se očekává projednání bezpečnosti AI.cbsnews

„Lidé v našem světě, kteří si váží naší lidskosti a její klíčové morální složky, úzkostlivě očekávají vaše ujištění, že neztratíme kontrolu nad svým osudem,“ řekne král ve čtvrtek shromážděným lídrům.nytimes