Tidigare DeepMind-forskare: AI utvecklas för snabbt för att kontrolleras

Alex Turner, en tidigare forskare vid Google Alphabet Inc. ↗ 0.78% DeepMinds team för skalbar anpassning, medverkade i Bloomberg på måndagen för att argumentera för att takten i AI-utvecklingen har överträffat förmågan hos regeringar, företag och rivaliserande stormakter att hantera riskerna. Hans kommentarer kom mitt i en våg av uppmaningar från ledande AI-chefer om att sakta ner branschens rasande framfart.

En växande plattform för visselblåsare

Turner sade upp sig från Google DeepMind i juni efter att företaget tecknat ett avtal som tillåter Pentagon att använda deras AI för hemligstämplat arbete, en affär han menade saknade bindande restriktioner mot autonoma vapen eller massövervakning. Sedan dess har han blivit en av de mest framträdande rösterna som varnar för AI-utvecklingens riktning. I ett framträdande i CNBC förra veckan sade han att han är orolig för utrotningsrisk kopplad till tekniken.cnbc+2

I måndagens Bloomberg-intervju lyfte Turner fram rekursiv självförbättring, alltså AI-systemens förmåga att förbättra sin egen kapacitet, som en central fara och varnade för att det snabbt kan skapa intelligens som övergår mänsklig fattningsförmåga. Han pekade också på övervakning av beräkningskraft som ett praktiskt verktyg för reglering, och argumenterade för att kontroll av den enorma processorkraft som krävs för att träna avancerade modeller kan ge regeringar ett konkret sätt att genomdriva begränsningar. Turner medgav att teknikjättarnas nyligen uttalade krav på att sakta ner kan vara delvis uppriktiga, men också ett strategiskt drag för att befästa sin egen fördel.bloomberg

Industrins kör växer sig starkare

Turners varningar kommer under en avgörande vecka för debatten om AI-säkerhet. I lördags publicerade Anthropic-vd:n Dario Amodei en essä på 3 800 ord med titeln "We Must Pace the Frontier", där han uppmanar laboratorier att medvetet bromsa kapacitetsökningen så att säkerhetsforskningen hinner med. OpenAI-vd:n Sam Altman och Elon Musk gav båda sitt offentliga stöd till budskapet. Demis Hassabis, som leder Google DeepMind, uttryckte också sin enighet.cnbc+1

Amodei presenterade ett ramverk i tre steg: att bädda in oberoende utvärderare i laboratorierna, samordna säkerhetsstandarder mellan demokratiska nationer och så småningom utvidga dessa avtal globalt, inklusive till Kina. Per måndag hade dock inget konkurrerande laboratorium matchat Anthropics konkreta åtagande att ge tredjepartsrevisorer tillgång på anställd nivå.shattered

Kina-dilemmat

Den geopolitiska dimensionen väger tungt. Amodei kallade själv Kina för det svåraste dilemmat för alla förslag om nedbromsning, och erkände risken att ensidig återhållsamhet från västerländska laboratorier kan ge Peking ett försprång. I ett separat utbyte på sociala medier tog Turner till orda mot Trump-administrationens AI-chef David Sacks, som avfärdade kraven på reglering som ett försök att kväva konkurrensen. Turner skrev i en debattartikel i The Guardian på söndagen att lösningen är enkel: hindra företag från att möjliggöra för AI att självförbättras bortom en hanterbar intelligensnivå.politomix+3