Google flyttar AI-säkerhetsteam från DeepMind-labbet

Google Alphabet Inc. ↗ 1.82% flyttar sitt AI-ansvarsteam på cirka 90 medlemmar från Google DeepMind till sin avdelning för Global Affairs, som övervakar lobbyverksamhet och offentlig policy, enligt ett internt mejl som The Wall Street Journal News Corp ↘ 1.19% tagit del av. Flytten, som träder i kraft i början av september, har väckt oro bland anställda för att teamets oberoende och förmåga att identifiera risker i avancerade AI-modeller kommer att minska.wsj

En omstrukturering efter ledarskapsförändringar

Omorganisationen följer en bredare förändring hos DeepMind där medgrundaren och VD:n Demis Hassabis klivit av till en ny roll som styrelseordförande. Vissa medlemmar i AI-ansvarsteamet har uttryckt oro för att förändringen i rapporteringsstruktur kommer att påverka deras arbete negativt, enligt två nuvarande DeepMind-anställda som citeras av Journal.moomoo+1

Etikteamet har fokuserat på att bedöma banbrytande AI-risker, inklusive utvärdering av kemiska, biologiska, radiologiska och nukleära faror under modelltestning, samt att undersöka de psykologiska effekterna av användarinteraktioner med AI-chattbotar. Anställda är oroliga för att flytten av teamet bort från Gemini-modellens utvecklingsgrupp kan undergräva dess kapacitet att bedriva oberoende forskning och flagga för framväxande hot i avancerade modeller.moomoo

Google säger att tillgången kvarstår

Google har vidhållit att teamet kommer att behålla tillgång till DeepMinds resurser, datorkraft och personal, medan andra grupper med ansvar för modellbeteende, integritet och säkerhet kommer att förbli inom DeepMind. Omstruktureringen är en del av DeepMinds bredare integrering i Googles företagsstruktur, där relaterade HR- och policyteam också flyttas bort från laboratoriet.moomoo

Flytten sker mitt under pågående ledarskapsförändringar och personalomsättning hos DeepMind, vilket väcker bredare frågor om hur stora AI-labb balanserar den snabba utvecklingen av kraftfulla modeller mot interna kontrollmekanismer utformade för att fånga upp potentiella skador innan driftsättning.