Google přesouvá tým pro bezpečnost AI mimo laboratoř DeepMind

Společnost Google Alphabet Inc. ↘ 1.11% přesouvá svůj tým pro odpovědnost v oblasti AI, který čítá zhruba 90 členů, z Google DeepMind do své divize Global Affairs, která dohlíží na lobbing a veřejnou politiku. Vyplývá to z interního e-mailu, který získal deník The Wall Street Journal News Corp ↗ 1.52%. Tento krok, který vstoupí v platnost začátkem září, vyvolal mezi zaměstnanci obavy, že nezávislost týmu a jeho schopnost identifikovat rizika u špičkových modelů AI budou oslabeny.wsj

Restrukturalizace po změnách ve vedení

Reorganizace následuje po rozsáhlejších změnách v DeepMind, při nichž spoluzakladatel a generální ředitel Demis Hassabis odstoupil z funkce a přesunul se do nové role předsedy. Někteří členové týmu pro odpovědnost v oblasti AI vyjádřili obavy, že změna struktury podávání zpráv bude mít negativní dopad na jejich práci, uvádějí dva současní zaměstnanci DeepMind citovaní deníkem Journal.moomoo+1

Etický tým se zaměřoval na posuzování nejmodernějších rizik AI, včetně hodnocení chemických, biologických, radiologických a jaderných hrozeb během testování modelů, a také na zkoumání psychologických účinků interakcí uživatelů s AI chatboty. Zaměstnanci se obávají, že přemístění týmu mimo skupinu pro vývoj modelu Gemini by mohlo podkopat jeho schopnost provádět nezávislý výzkum a upozorňovat na vznikající hrozby u pokročilých modelů.moomoo

Google tvrdí, že přístup bude zachován

Google trvá na tom, že tým si zachová přístup ke zdrojům, výpočetnímu výkonu a personálu DeepMind, zatímco ostatní skupiny odpovědné za chování modelů, soukromí a bezpečnost zůstanou v rámci DeepMind. Restrukturalizace je součástí širší integrace DeepMind do korporátní struktury Googlu, přičemž související týmy pro lidské zdroje a politiku jsou rovněž přesouvány mimo laboratoř.moomoo

K tomuto kroku dochází uprostřed probíhajících změn ve vedení a fluktuace talentů v DeepMind, což vyvolává širší otázky o tom, jak velké laboratoře AI vyvažují rychlý vývoj výkonných modelů s vnitřními mechanismy dohledu, které mají zachytit potenciální škody před nasazením.