Google flytter AI-sikkerhetsteam ut av DeepMind-laboratoriet

Google Alphabet Inc. ↘ 1.11% overfører sitt AI-ansvarsteam på rundt 90 medlemmer ut av Google DeepMind og inn i sin Global Affairs-divisjon, som fører tilsyn med lobbyvirksomhet og offentlig politikk, ifølge en intern e-post sett av The Wall Street Journal News Corp ↗ 1.52%. Flyttingen, som trer i kraft i begynnelsen av september, har skapt bekymring blant ansatte om at teamets uavhengighet og evne til å identifisere risikoer i banebrytende AI-modeller vil bli svekket.wsj

En omstrukturering etter ledelsesendringer

Omorganiseringen følger en bredere endring hos DeepMind der medgrunnlegger og administrerende direktør Demis Hassabis gikk av til en ny rolle som styreleder. Noen medlemmer av AI-ansvarsteamet har uttrykt bekymring for at endringen i rapporteringsstruktur vil påvirke arbeidet deres negativt, ifølge to nåværende DeepMind-ansatte sitert av Journal.moomoo+1

Etikkteamet har fokusert på å vurdere banebrytende AI-risikoer, inkludert evaluering av kjemiske, biologiske, radiologiske og kjernefysiske farer under modelltesting, samt undersøkelse av de psykologiske effektene av brukerinteraksjoner med AI-chatbots. Ansatte er bekymret for at det å flytte teamet bort fra Gemini-modellens utviklingsgruppe kan undergrave kapasiteten til å utføre uavhengig forskning og flagge nye trusler i avanserte modeller.moomoo

Google sier tilgangen vil fortsette

Google har opprettholdt at teamet vil beholde tilgang til DeepMinds ressurser, datakraft og personell, mens andre grupper med ansvar for modellatferd, personvern og sikkerhet vil forbli i DeepMind. Omstruktureringen er en del av DeepMinds bredere integrasjon i Googles selskapsstruktur, der relaterte HR- og policy-team også blir omplassert bort fra laboratoriet.moomoo

Flyttingen kommer midt i pågående ledelsesendringer og turnover hos DeepMind, noe som reiser bredere spørsmål om hvordan store AI-laboratorier balanserer rask utvikling av kraftige modeller mot interne kontrollmekanismer designet for å fange opp potensielle skader før utrulling.