Tidligere DeepMind-forsker: AI utvikler seg for raskt til å kontrolleres

Alex Turner, en tidligere forsker ved Google Alphabet Inc. ↗ 0.78% DeepMind sitt team for skalerbar tilpasning, gjestet Bloomberg mandag for å argumentere for at tempoet i AI-utviklingen har overgått evnen til myndigheter, selskaper og rivaliserende stormakter til å håndtere risikoen. Hans uttalelser kom midt i en bølge av oppfordringer fra ledende AI-topper om å bremse feltets halsbrekkende fremgang.

En voksende plattform for varsling

Turner sa opp sin stilling i Google DeepMind i juni etter at selskapet inngikk en avtale som tillater Pentagon å bruke deres AI til gradert arbeid, en avtale han mente manglet bindende restriksjoner mot autonome våpen eller masseovervåkning. Siden den gang har han blitt en av de mest fremtredende stemmene som advarer om AI-utviklingens retning. I et intervju med CNBC forrige uke uttalte han at han er bekymret for utryddelsesrisiko knyttet til teknologien.cnbc+2

I mandagens Bloomberg-intervju trakk Turner frem rekursiv selvforbedring, altså AI-systemers evne til å forbedre egne ferdigheter, som en sentral fare, og advarte om at dette raskt kan skape intelligens som overgår menneskelig fatteevne. Han pekte også på overvåkning av datakraft som et praktisk verktøy for regulering, og argumenterte for at kontroll med den enorme prosesseringskraften som kreves for å trene avanserte modeller, kan gi myndigheter en konkret måte å håndheve begrensninger på. Turner anerkjente at teknologigigantenes nylige oppfordringer om å bremse ned kan være delvis oppriktige, men også et strategisk trekk for å befeste sin egen posisjon.bloomberg

Industrien hever stemmen

Turners advarsler kommer i en avgjørende uke for debatten om AI-sikkerhet. Lørdag publiserte Anthropic-sjef Dario Amodei et essay på 3800 ord med tittelen "We Must Pace the Frontier", der han oppfordrer laboratorier til bevisst å bremse kapasitetsveksten slik at forskning på sikkerhet kan holde følge. OpenAI-sjef Sam Altman og Elon Musk støttet budskapet offentlig. Demis Hassabis, som leder Google DeepMind, uttrykte også enighet.cnbc+1

Amodei skisserte et rammeverk i tre trinn: å inkludere uavhengige evaluatorer i laboratoriene, koordinere sikkerhetsstandarder på tvers av demokratiske nasjoner, og etter hvert utvide disse avtalene globalt, inkludert til Kina. Per mandag hadde imidlertid ingen konkurrerende laboratorier matchet Anthropics konkrete forpliktelse om å gi tredjepartsrevisorer tilgang på ansattnivå.shattered

Kina-dilemmaet

Den geopolitiske dimensjonen er betydelig. Amodei kalte selv Kina for det vanskeligste dilemmaet for ethvert forslag om nedbremsing, og anerkjente risikoen for at ensidig tilbakeholdenhet fra vestlige laboratorier kan gi Beijing et forsprang. I en separat utveksling på sosiale medier tok Turner til motmæle mot Trump-administrasjonens AI-sjef David Sacks, som avfeide oppfordringer om regulering som et forsøk på å kvele konkurransen. Turner skrev i en kronikk i The Guardian søndag at løsningen er enkel: hindre selskaper i å legge til rette for at AI kan selvforbedre seg utover et håndterbart intelligensnivå.politomix+3