Hassabis fremmet plan for AI-tilsyn før han forlot DeepMind

I ukene før Alphabet ↘ 0.18% kunngjorde en omfattende lederendring hos Google DeepMind den 5. august, jobbet Demis Hassabis i det stille med mer enn bare modellutvikling: et forslag om et uavhengig organ for å overvåke avansert kunstig intelligens, ifølge The Wall Street Journal News Corp ↗ 0.03%.wsj

Hassabis diskuterte med ledere for rivaliserende AI-laboratorier og tjenestemenn i Trump-administrasjonen, inkludert finansminister Scott Bessent, om å opprette en USA-ledet, bransjefinansiert standardiseringsorganisasjon etter modell fra Financial Industry Regulatory Authority, det private tilsynsorganet som overvåker meglere på Wall Street. Forslaget innebærer at et styre av uavhengige tekniske eksperter skal vurdere avanserte AI-modeller inntil 30 dager før offentlig lansering, der organet står ansvarlig overfor føderale myndigheter, men forblir privatdrevet.claimsjournal+3

Forslaget

Hassabis publiserte rammeverket sitt offentlig 14. juli og kalte det et "Frontier AI Standards Body". Planen legger opp til at ledende laboratorier frivillig sender inn sine kraftigste modeller for sikkerhetstesting før lansering, og at laboratoriene selv finansierer organisasjonen, i tråd med hvordan FINRA finansieres av meglerhusene de regulerer. Ifølge Fortune var Bessent med på å utvikle forslaget, som ble vurdert av stabssjef i Det hvite hus, Susie Wiles.digitalapplied+3

The Washington Post beskrev initiativet som en form for "selvregulering av AI" med en "stille invitasjon til at myndighetene etter hvert kan gjøre mer". Bloomberg rapporterte i juli at Trump-administrasjonen aktivt vurderte planen etter at ledere i Silicon Valley klaget over den ad-hoc-pregede tilnærmingen til amerikansk regulering av avanserte AI-systemer.washingtonpost+1

Lederendringene

Den 5. august kunngjorde Alphabet at Hassabis ville gå av som administrerende direktør for Google DeepMind for å bli styreleder for enheten og sjefsforsker i Alphabet, et skifte bort fra daglig drift mot AGI-strategi og vitenskapelig forskning. Koray Kavukcuoglu, teknologidirektør i DeepMind, tok over den daglige driften som senior visepresident med direkte rapportering til administrerende direktør Sundar Pichai.axios+2

Omorganiseringen førte også til at veteranen Jeff Dean og flere andre fremtredende AI-ledere, inkludert Sanjay Ghemawat, Oriol Vinyals og Quoc Le, forlot Google for å starte selskapet Discovery Loop.reuters+1

Sikkerhet midt i konkurransen

Timingen av Hassabis sitt regulatoriske fremstøt, kombinert med at han trekker seg fra operativ drift, reiser spørsmål om hvorvidt de to hendelsene henger sammen. I samtaler med kolleger sammenlignet Hassabis den planlagte organisasjonen med Det internasjonale atomenergibyrået, og fremstilte det som et samarbeidsorgan fremfor en straffende regulator. Hans nye rolle som sjefsforsker i Alphabet og styreleder i DeepMind posisjonerer ham til å fortsette arbeidet for standardiseringsorganet uten de operasjonelle kravene ved å drive et av verdens største AI-laboratorier.cnbc+1