Král Karel III. svolává lídry v oblasti AI do Skotska, sílí volání po zpomalení vývoje

Král Karel III. tento týden svolá zhruba 30 nejvýznamnějších světových lídrů v oblasti umělé inteligence do Dumfries House v hrabství Ayrshire ve Skotsku, aby se jich zeptal, jak lze tuto technologii vyvíjet „pro dobro lidstva“. Setkání se koná v době, kdy varování zevnitř samotného odvětví AI dosáhla vrcholu, přičemž generální ředitel společnosti Anthropic Dario Amodei v sobotu vyzval k záměrnému zpomalení vývoje špičkových modelů.

Královské setkání

Akce, o které jako první informoval server Politico, svede dohromady lídry společností Nvidia ↗ 2.87%, Anthropic, Google Alphabet Inc. ↗ 2.00% DeepMind a OpenAI v sídle The King's Foundation, charitativní organizace, kterou Karel založil v roce 1990. Mezi očekávanými účastníky jsou generální ředitel společnosti Nvidia Jensen Huang, zakladatel Google DeepMind Demis Hassabis, předseda a generální ředitel společnosti IonQ ↘ 2.66% Niccolo de Masi a Paolo Benanti, poradce papeže pro etiku AI.politico+2

Nadace Ditchley Foundation na summit dohlíží a pro lídry v oblasti AI vypracovala návrh charty. Podle listu The Sunday Times, jak uvedly deníky The Daily Mail a The Independent, má charta obsahovat „soubor sdílených principů“, které by „pomohly vést budoucí aplikaci AI, nikoliv pouze jako hnací sílu schopností a efektivity, ale jako nástroj, který prosazuje lidskou důstojnost a přispívá k rozkvětu lidí i planety“.dailymail+1

Královský zdroj pro The Sunday Times uvedl: „Král je zde proto, aby svolal, vyslechl a povzbudil tyto diskuse a položil otázku: Jak vyvíjet AI pro dobro lidstva?“independent+1

Obavy v odvětví

Načasování je pozoruhodné. V sobotu Amodei publikoval esej s názvem „We Must Pace the Frontier“, v níž argumentuje, že AI se od léta „vyvíjí drasticky rychleji“ a že bezpečnostní opatření s tímto tempem nedrží krok. Navrhl tříkrokový plán: začlenění externích hodnotitelů s přístupem na úrovni zaměstnanců do společností zabývajících se špičkovou AI, koordinaci společných bezpečnostních standardů a posílení globální koordinace.economictimes+1

Hassabis tuto výzvu na síti X podpořil a napsal, že „Dariova esej ukazuje správnou cestu vpřed“. Bývalý britský premiér Rishi Sunak, nyní poradce společnosti Anthropic, uvedl, že „když si samotné laboratoře říkají o rychlostní limity, vlády by měly naslouchat“. Senátor Bernie Sanders zašel ještě dál a vyzval k „pozastavení vývoje pokročilé AI a zákazu umělé superinteligence“.economictimes

Vzor angažovanosti

Summit ve Skotsku není Karlovým prvním počinem v oblasti diplomacie kolem AI. Během dubnové návštěvy Washingtonu se král setkal s technologickými lídry, včetně zakladatele Amazonu Amazon.com, Inc. ↘ 1.74% Jeffa Bezose a představitelů společností Apple ↗ 2.04% a Nvidia. Setkání v Dumfries House však nese větší naléhavost, neboť přichází jen několik dní poté, co výzkumník Jacob Coxon veřejně rezignoval na svou pozici v oboru kvůli obavám, že společnosti „závodí ve stavbě systémů, které nebudou schopny ovládat“.politico+1

Zda může soubor principů zaštítěný královskou rodinou zmírnit globální technologické závody, zůstává otevřenou otázkou. Jak to vyjádřil královský zdroj: „Ví, že to ovlivní každého ve společnosti. Chce položit otázku: Bylo by užitečné mít soubor principů? Má pocit, že to není snadná věc, ale to neznamená, že bychom se o to neměli pokusit.“dailymail