Newsletter Subscribe
Enter your email address below and subscribe to our newsletter
[forminator_form id="25163"]

xcnbc+1newsweekLabour-representant Darren Jones har tatt til orde for en ny internasjonal traktat som skal regulere utviklingen av superintelligens, som et direkte svar på oppsigelsen til Anthropic-forsker Jacob Coxon og de påfølgende sikkerhetsadvarslene. Jones, en tidligere statsråd med lang erfaring innen teknologipolitikk, skrev på X onsdag at selv om han «aldri har ment at vi bør forby innovasjon eller vitenskapelig arbeid», er det nå «tydelig at vi trenger en ny internasjonal traktat for sikker og regulert utvikling av superintelligens.»x+1
Jones kom med utspillet timer etter at Coxon, en 27 år gammel forsker som har jobbet tre år hos både OpenAI og Anthropic, kunngjorde på X at han har sagt opp og forlater AI-bransjen fullstendig. «Ingen av selskapene opptrer ansvarlig,» skrev Coxon. «De raser rett mot selvforbedrende superintelligens og gambler med livene våre.»cnbc+1
Oppsigelsen utløste en oppsiktsvekkende offentlig respons fra Evan Hubinger, en leder for alignment-forskning som fortsatt jobber hos Anthropic. «Jacob har rett her, vi tror faktisk oppriktig at AI kan drepe alle mennesker,» skrev Hubinger på X. «Jeg personlig mener det er over 10 prosent sjanse i løpet av det neste tiåret. Jeg tror Anthropic gjør sitt beste, men vi har ennå ikke en plan for å løse alignment-problemet for superintelligens, og vi er ikke tydelig på rett vei.»newsweek+1
Jones svarte direkte på Hubingers innlegg: «Hvis dette risikonivået stemmer, må i det minste AI-laboratoriene bremse ned.»x
Jones fungerte som Chancellor of the Duchy of Lancaster og statssekretær for statsministeren under Keir Starmer før han ble fjernet fra regjeringen av den påtroppende statsministeren Andy Burnham i juli 2026. Som menig representant er han fortsatt en av parlamentets mest fremtredende stemmer innen teknologistyring, etter å ha grunnlagt Interparliamentary Forum on Emerging Technologies.aiforgood.itu+2
Hans oppfordring bygger på en økende uro i AI-forskningsmiljøet. I februar sa Anthropic-leder for sikkerhetsforskning, Mrinank Sharma, opp med en advarsel om at «verden er i fare.» Og den 6. september skrev OpenAI-sjefsforsker Jakub Pachocki at ingen selskaper ennå kan holde sine mest avanserte modeller pålitelig under menneskelig kontroll.bbc+2
Det gjenstår å se om Jones' forslag får gjennomslag i parlamentet. Storbritannia var vertskap for det første globale toppmøtet om AI-sikkerhet ved Bletchley Park i 2023, men bindende internasjonale reguleringer har vist seg vanskelige å oppnå. Oppsigelsen fra en relativt junior forsker ville vanligvis fått begrenset oppmerksomhet, men Hubingers offentlige støtte til bekymringen, fra innsiden av et av verdens ledende AI-laboratorier, har gitt saken uvanlig stor tyngde.