Bresískur þingmaður kallar eftir alþjóðlegum sáttmála um gervigreind

Darren Jones, þingmaður Verkamannaflokksins, hefur kallað eftir nýjum fjölþjóðlegum sáttmála um þróun ofurgervigreindar í kjölfar uppsagnar rannsakandans Jacobs Coxon hjá Anthropic og þeirra öryggisviðvarana sem fylgdu í kjölfarið. Jones, sem er fyrrverandi ráðherra og hefur lengi látið sig tæknimál varða, skrifaði á X á miðvikudag að þótt hann hafi „aldrei talið að við ættum að banna nýsköpun eða vísindastarf,“ þá sé nú „ljóst að við þurfum nýjan fjölþjóðlegan sáttmála um örugga og stýrða þróun ofurgervigreindar.“x+1

Viðvörun frá Anthropic

Inngrip Jones kom nokkrum klukkustundum eftir að Coxon, 27 ára rannsakandi sem starfaði hjá bæði OpenAI og Anthropic, tilkynnti á X að hann hefði sagt upp störfum og yfirgæfi gervigreindargeirann alfarið. „Hvorki fyrirtækið né keppinautar þess starfa af ábyrgð,“ skrifaði Coxon. „Þau eru í kapphlaupi beint að sjálfbætandi ofurgervigreind og tefla á tæpasta vað með líf okkar.“cnbc+1

Uppsögnin vakti mikla athygli og fékk opinberan stuðning frá Evan Hubinger, yfirmanni hjá Anthropic. „Jacob hefur rétt fyrir sér hér, við trúum því í raun og veru að gervigreind gæti útrýmt mannkyninu,“ skrifaði Hubinger á X. „Ég persónulega tel að það sé meira en 10% líkur á því á næsta áratug. Ég tel að Anthropic sé að gera sitt besta, en við höfum ekki enn áætlun um hvernig eigi að tryggja að ofurgervigreind sé í samræmi við gildi okkar.“newsweek+1

Jones svaraði færslu Hubingers beint: „Ef þessi áhætta er raunveruleg, þá þurfa gervigreindarfyrirtækin að minnsta kosti að hægja á sér.“x

Pólitískt samhengi

Jones gegndi embætti ráðherra í ríkisstjórn Keir Starmer áður en hann var látinn fara af Andy Burnham forsætisráðherra í júlí 2026. Hann er nú óháður þingmaður en er enn einn helsti talsmaður þingsins um stjórnun tæknimála og stofnaði meðal annars alþjóðlegan vettvang um nýja tækni.aiforgood.itu+2

Kall hans endurspeglar vaxandi óróa innan vísindasamfélagsins. Í febrúar sagði Mrinank Sharma, yfirmaður öryggisrannsókna hjá Anthropic, upp störfum með þeirri viðvörun að „heimurinn sé í hættu.“ Þann 6. september skrifaði Jakub Pachocki, yfirvísindamaður hjá OpenAI, að ekkert fyrirtæki geti enn haldið fullkomnustu gerðum sínum undir öruggri stjórn manna.bbc+2

Hvað gerist næst

Óljóst er hvort tillaga Jones fái hljómgrunn á þingi. Bretland hýsti fyrstu alþjóðlegu ráðstefnuna um öryggi gervigreindar í Bletchley Park árið 2023, en bindandi alþjóðlegar reglur hafa reynst erfiðar í framkvæmd. Uppsögn tiltölulega ungs rannsakanda hefði venjulega fengið takmarkaða athygli, en opinber stuðningur Hubingers við áhyggjurnar, innan úr einu fremsta gervigreindarfyrirtæki heims, hefur gefið málinu óvenjulega þyngd.