Šéfka EU pro technologie volá po globálních pravidlech pro AI po varováních před vyhynutím

Výkonná místopředsedkyně Evropské komise Henna Virkkunen v pátek vyzvala k zavedení globálních pravidel pro umělou inteligenci, jen několik dní poté, co výzkumníci z předních laboratoří AI veřejně varovali, že tato technologie by mohla během desetiletí způsobit vyhynutí lidstva.

„Je velmi důležité, abychom nyní pokračovali v mezinárodní spolupráci, protože vidím, že globální pravidla jsou skutečně potřeba,“ uvedla Virkkunen na okraj konference o bezpečnosti dětí na internetu v Dublinu, jak informoval server Politico Europe.politico

Varování výzkumníků zvyšují sázky

Snaha o mezinárodní koordinaci přichází v návaznosti na mimořádnou sérii veřejných varování od zasvěcených osob z oboru AI. Jacob Coxon, bývalý inženýr, který tři roky pracoval na výzkumu předtrénování v OpenAI i Anthropic, v úterý rezignoval na svou pozici v Anthropic a na síti X napsal, že „ani jedna z těchto společností nejedná zodpovědně“.axios+1

„Řítí se přímo k samovylepšující se superinteligenci a hazardují s našimi životy,“ napsal Coxon. „Lidé, kteří budují AI, upřímně věří, že by nás všechny mohla do konce desetiletí zabít.“nypost+1

Evan Hubinger, vedoucí vědecký pracovník pro oblast alignmentu v Anthropic, veřejně odpověděl, že „osobně si myslí, že je to více než 10 % v příštím desetiletí“, a dodal, že společnost „zatím nemá plán, jak vyřešit problém alignmentu pro superinteligenci“. Samuel Marks, vedoucí dohledu nad škálovatelností v Anthropic, tyto obavy zopakoval se slovy, že „obecně platí, že čím je zaměstnanec na vyšší pozici, tím více má obavy“.bbc+1

Tato varování vyvolala výzvy nejméně 22 úřadujících amerických představitelů k regulaci, slyšením v Kongresu a v některých případech i k pozastavení vývoje, uvádí agentura Anadolu Agency.aa

EU ukazuje na Akt o AI jako na šablonu

Virkkunen poznamenala, že EU již má legislativu, která vyžaduje, aby společnosti, včetně Anthropic a OpenAI, posuzovaly a zmírňovaly riziko ztráty kontroly nad modely AI – ale že takové požadavky globálně neexistují. Akt EU o umělé inteligenci vstoupil v platnost v srpnu 2024 a plně použitelným se stal v srpnu 2026.ua+2

Výzva k mezinárodní koordinaci je v souladu s širším evropským diplomatickým úsilím. V červnu předsedkyně Komise Ursula von der Leyen na summitu G7 ve Francii naléhala na spolupráci mezi EU a USA v oblasti AI, zatímco německý ministr pro digitální záležitosti Carsten Wildberger se zasazuje o mezinárodní orgán pro bezpečnost AI vytvořený podle vzoru Mezinárodní agentury pro atomovou energii.ua

Americký velvyslanec při EU Andrew Puzder vyjádřil podporu transatlantickému partnerství v oblasti AI, ale varoval před regulacemi, které by mohly oslabit schopnost amerických firem konkurovat Číně.ua