EU-toppsjef krever globale AI-regler etter advarsler om utryddelse

EU-kommisjonens konserndirektør Henna Virkkunen etterlyste fredag globale regler for kunstig intelligens, bare dager etter at forskere ved ledende AI-laboratorier offentlig advarte om at teknologien kan føre til menneskehetens utryddelse i løpet av tiåret.

«Det er svært viktig at vi nå fortsetter det internasjonale samarbeidet, for jeg ser at globale regler er helt nødvendige,» sa Virkkunen i forbindelse med en konferanse om nettsikkerhet for barn i Dublin, ifølge Politico Europe.politico

Forskeradvarsler øker innsatsen

Presset for internasjonal koordinering kommer i kjølvannet av en rekke oppsiktsvekkende advarsler fra innsidere i AI-bransjen. Jacob Coxon, en tidligere ingeniør som jobbet tre år med forhåndstrening av modeller hos både OpenAI og Anthropic, sa opp sin stilling i Anthropic på tirsdag og skrev på X at «ingen av selskapene opptrer ansvarlig».axios+1

«De raser rett mot selvforbedrende superintelligens og gambler med livene våre,» skrev Coxon. «Folkene som bygger AI tror oppriktig at det kan ta livet av oss alle før tiåret er omme».nypost+1

Evan Hubinger, leder for alignment-vitenskap hos Anthropic, svarte offentlig at han «personlig tror sjansen er >10 % i løpet av det neste tiåret,» og la til at selskapet «ennå ikke har en plan for å løse alignment-problemet for superintelligens». Samuel Marks, leder for skalerbar overvåking hos Anthropic, støttet bekymringene og uttalte at «generelt sett, jo mer senior en ansatt er, desto mer bekymret er de».bbc+1

Advarslene har ført til krav fra minst 22 amerikanske embetsmenn om regulering, høringer i Kongressen og i enkelte tilfeller en pause i utviklingen, ifølge Anadolu Agency.aa

EU peker på AI-loven som mal

Virkkunen påpekte at EU allerede har lovgivning som krever at selskaper, inkludert Anthropic og OpenAI, vurderer og begrenser risikoen for å miste kontrollen over AI-modeller, men at slike krav ikke eksisterer globalt. EUs AI-lov trådte i kraft i august 2024 og ble i stor grad gjeldende fra august 2026.ua+2

Kravet om internasjonal koordinering samsvarer med bredere europeiske diplomatiske anstrengelser. I juni oppfordret kommisjonspresident Ursula von der Leyen til EU-USA-samarbeid om AI under G7-toppmøtet i Frankrike, mens Tysklands digitalminister Carsten Wildberger har tatt til orde for et internasjonalt organ for AI-sikkerhet etter modell fra Det internasjonale atomenergibyrået.ua

USAs ambassadør til EU, Andrew Puzder, har signalisert støtte til et transatlantisk AI-partnerskap, men advart mot reguleringer som kan svekke amerikanske selskapers evne til å konkurrere med Kina.ua