Tæknistjóri ESB kallar eftir alþjóðlegum reglum um gervigreind eftir viðvaranir um útrýmingu

Henna Virkkunen, varaforseti framkvæmdastjórnar Evrópusambandsins, kallaði eftir alþjóðlegum reglum um gervigreind á föstudag, nokkrum dögum eftir að rannsakendur hjá leiðandi gervigreindarfyrirtækjum vöruðu opinberlega við því að tæknin gæti valdið útrýmingu mannkyns innan áratugar.

"Það er mjög mikilvægt að við höldum áfram alþjóðlegu samstarfi hér, því ég tel að þörf sé á alþjóðlegum reglum," sagði Virkkunen á hliðarlínu ráðstefnu um öryggi barna á netinu í Dublin, samkvæmt Politico Europe.politico

Viðvaranir rannsakenda auka áhyggjur

Kallið eftir alþjóðlegri samhæfingu kemur í kjölfar óvenjulegra opinberra viðvarana frá starfsmönnum innan gervigreindargeirans. Jacob Coxon, fyrrverandi verkfræðingur sem starfaði í þrjú ár við rannsóknir hjá bæði OpenAI og Anthropic, sagði upp störfum hjá Anthropic á þriðjudag og skrifaði á X að "ekkert fyrirtækjanna starfi af ábyrgð".axios+1

"Þau keppast við að ná sjálfvirkt bættri ofurgreind og tefla lífi okkar í hættu," skrifaði Coxon. "Fólkið sem byggir gervigreind trúir því einlæglega að hún gæti drepið okkur öll fyrir lok áratugarins".nypost+1

Evan Hubinger, yfirmaður samræmingarvísinda hjá Anthropic, svaraði opinberlega að hann teldi "persónulega að líkurnar séu meiri en 10% á næsta áratug," og bætti við að fyrirtækið "hafi ekki enn áætlun um að leysa samræmingarvandann fyrir ofurgreind". Samuel Marks, yfirmaður eftirlitsmála hjá Anthropic, tók undir áhyggjurnar og sagði að "almennt séð, því hærra sem starfsmenn eru settir, því meiri áhyggjur hafa þeir".bbc+1

Viðvaranirnar hafa orðið til þess að að minnsta kosti 22 bandarískir embættismenn hafa kallað eftir reglugerðum, þingheyrslum og í sumum tilfellum hléi á þróun, samkvæmt Anadolu Agency.aa

ESB bendir á gervigreindarlög sem fyrirmynd

Virkkunen benti á að ESB hafi þegar löggjöf sem krefst þess að fyrirtæki, þar á meðal Anthropic og OpenAI, meti og dragi úr hættu á að missa stjórn á gervigreindarlíkönum, en slíkar kröfur séu ekki til staðar á heimsvísu. Gervigreindarlög ESB tóku gildi í ágúst 2024 og urðu að fullu gildandi í ágúst 2026.ua+2

Kallið eftir alþjóðlegri samhæfingu samræmist víðtækari diplómatískum viðleitni Evrópu. Í júní hvatti Ursula von der Leyen, forseti framkvæmdastjórnarinnar, til samstarfs ESB og Bandaríkjanna um gervigreind á G7-fundinum í Frakklandi, á meðan Carsten Wildberger, stafrænn ráðherra Þýskalands, hefur talað fyrir alþjóðlegri öryggisstofnun fyrir gervigreind sem byggir á fyrirmynd Alþjóðakjarnorkumálastofnunarinnar.ua

Andrew Puzder, sendiherra Bandaríkjanna hjá ESB, hefur lýst yfir stuðningi við transatlantískt samstarf um gervigreind en varað við reglugerðum sem gætu veikt samkeppnishæfni bandarískra fyrirtækja gagnvart Kína.ua