EU-topp kräver globala AI-regler efter varningar om utplåning

EU-kommissionens vice ordförande Henna Virkkunen efterlyste på fredagen globala regler för artificiell intelligens, bara dagar efter att forskare vid ledande AI-labb offentligt varnat för att tekniken kan orsaka mänsklighetens utplåning inom ett decennium.

"Det är mycket viktigt att vi nu fortsätter det internationella samarbetet, för jag ser att globala regler verkligen behövs," sade Virkkunen i samband med en konferens om barns säkerhet på nätet i Dublin, enligt Politico Europe.politico

Forskarnas varningar höjer insatserna

Kraven på internationell samordning kommer i spåren av en rad extraordinära varningar från insatta personer inom AI-branschen. Jacob Coxon, en tidigare ingenjör som arbetat tre år med forskning kring förträning hos både OpenAI och Anthropic, sade upp sig från Anthropic i tisdags och skrev på X att "inget av företagen agerar ansvarsfullt".axios+1

"De rusar rakt mot självförbättrande superintelligens och gamblar med våra liv," skrev Coxon. "De som bygger AI tror på fullt allvar att det kan döda oss alla innan decenniet är slut".nypost+1

Evan Hubinger, chef för alignment-forskning på Anthropic, svarade offentligt att han "personligen tror att risken är >10 % under det kommande decenniet," och tillade att företaget "ännu inte har en plan för att lösa alignment-problemet för superintelligens". Samuel Marks, chef för skalbar övervakning på Anthropic, instämde i oron och sade att "generellt sett, ju mer senior en anställd är, desto mer oroad är hen".bbc+1

Varningarna har lett till krav från minst 22 amerikanska tjänstemän om reglering, kongressförhör och i vissa fall en paus i utvecklingen, enligt Anadolu Agency.aa

EU lyfter fram AI-förordningen som mall

Virkkunen påpekade att EU redan har lagstiftning som kräver att företag, inklusive Anthropic och OpenAI, bedömer och minskar risken för att förlora kontrollen över AI-modeller, men att sådana krav saknas globalt. EUs AI-förordning trädde i kraft i augusti 2024 och blev i stor utsträckning tillämplig i augusti 2026.ua+2

Kravet på internationell samordning ligger i linje med bredare europeiska diplomatiska ansträngningar. I juni uppmanade kommissionens ordförande Ursula von der Leyen till samarbete mellan EU och USA kring AI vid G7-toppmötet i Frankrike, medan Tysklands digitalminister Carsten Wildberger har förespråkat ett internationellt organ för AI-säkerhet efter modell från Internationella atomenergiorganet.ua

USA:s ambassadör till EU, Andrew Puzder, har signalerat stöd för ett transatlantiskt AI-partnerskap men varnat för regleringar som skulle kunna försvaga amerikanska företags förmåga att konkurrera med Kina.ua