Hassabis drev på för AI-tillsyn innan avhoppet från DeepMind

Under veckorna innan Alphabet ↘ 0.18% tillkännagav en omfattande ledarskapsförändring hos Google DeepMind den 5 augusti, arbetade Demis Hassabis i det tysta med mer än bara modellutveckling: ett förslag om ett oberoende organ för att reglera avancerad artificiell intelligens, enligt The Wall Street Journal News Corp ↗ 0.03%.wsj

Hassabis förde samtal med chefer för rivaliserande AI-laboratorier och företrädare för Trump-administrationen, inklusive finansminister Scott Bessent, om att skapa en USA-ledd, branschfinansierad standardiseringsorganisation efter modell från Financial Industry Regulatory Authority, det privata tillsynsorgan som övervakar Wall Street-mäklare. Förslaget innebär att en styrelse av oberoende tekniska experter ska granska avancerade AI-modeller upp till 30 dagar före publik lansering, där organet är ansvarigt inför federala myndigheter men förblir privatdrivet.claimsjournal+3

Förslaget

Hassabis publicerade sitt ramverk offentligt den 14 juli och kallade det för ett "Frontier AI Standards Body". Planen innebär att ledande laboratorier frivilligt skickar in sina mest kraftfulla modeller för säkerhetstester före lansering, och att laboratorierna själva finansierar organisationen, i linje med hur FINRA finansieras av de mäklarfirmor de reglerar. Enligt Fortune var Bessent med och utvecklade förslaget, som granskades av Vita husets stabschef Susie Wiles.digitalapplied+3

The Washington Post beskrev initiativet som en form av "AI-självreglering" med en "tyst inbjudan till att regeringen så småningom gör mer". Bloomberg rapporterade i juli att Trump-administrationen aktivt övervägde planen efter att ledare i Silicon Valley klagat på den ad-hoc-karaktär som präglat USA:s senaste steg för att hantera avancerade AI-system.washingtonpost+1

Ledarskapsförändringarna

Den 5 augusti meddelade Alphabet att Hassabis skulle lämna posten som vd för Google DeepMind för att bli styrelseordförande för enheten och chefsforskare på Alphabet, ett skifte bort från den dagliga driften mot AGI-strategi och vetenskaplig forskning. Koray Kavukcuoglu, teknikchef på DeepMind, tog över den dagliga verksamheten som senior vice vd med direktrapportering till vd Sundar Pichai.axios+2

Omstruktureringen innebar också att veteranen Jeff Dean och flera andra framstående AI-ledare, inklusive Sanjay Ghemawat, Oriol Vinyals och Quoc Le, lämnade Google för att starta företaget Discovery Loop.reuters+1

Säkerhet mitt i konkurrensen

Timingen för Hassabis regulatoriska initiativ, i kombination med att han lämnar den operativa rollen, väcker frågor om huruvida de två händelserna hänger ihop. I samtal med kollegor jämförde Hassabis den planerade organisationen med Internationella atomenergiorganet, och beskrev det som ett samarbetsorgan snarare än en straffande tillsynsmyndighet. Hans nya roll som chefsforskare på Alphabet och styrelseordförande för DeepMind ger honom möjlighet att fortsätta driva frågan om standardiseringsorganet utan de operativa kraven som följer med att leda ett av världens största AI-laboratorier.cnbc+1