Hassabis prieš pasitraukimą iš „DeepMind“ stūmė DI priežiūros planą

Savaitėmis prieš tai, kai „Alphabet“ ↘ 0.18% rugpjūčio 5 d. paskelbė apie didelius vadovybės pokyčius „Google DeepMind“, Demis Hassabis tyliai dirbo prie kažko daugiau nei tik modelių kūrimo: pasiūlymo sukurti nepriklausomą organą, kuris prižiūrėtų pažangųjį dirbtinį intelektą, praneša „The Wall Street Journal News Corp“ ↗ 0.03%.wsj

Hassabis bendravo su konkuruojančių DI laboratorijų vadovais ir Trumpo administracijos pareigūnais, įskaitant iždo sekretorių Scottą Bessentą, dėl JAV vadovaujamos, pramonės finansuojamos standartų organizacijos sukūrimo, modeliuojamos pagal Finansų pramonės reguliavimo instituciją (FINRA), kuri prižiūri Volstryto brokerius. Pasiūlyme numatyta, kad nepriklausomų techninių ekspertų taryba peržiūrėtų pažangiausius DI modelius likus iki 30 dienų iki jų viešo išleidimo, o pati institucija būtų atskaitinga federalinei vyriausybei, tačiau išliktų privačiai valdoma.claimsjournal+3

Pasiūlymas

Hassabis savo sistemą viešai paskelbė liepos 14 d., pavadindamas ją „Pažangiojo DI standartų organu“. Plane numatyta, kad pažangios laboratorijos savanoriškai pateiktų savo galingiausius modelius saugumo patikrai prieš jų paleidimą, o pačios laboratorijos finansuotų organizaciją – panašiai kaip FINRA yra finansuojama brokerių, kuriuos ji reguliuoja. Pasak „Fortune“, Bessentas padėjo parengti šį pasiūlymą, kurį peržiūrėjo Baltųjų rūmų administracijos vadovė Susie Wiles.digitalapplied+3

„The Washington Post“ šią iniciatyvą apibūdino kaip „DI savireguliacijos“ formą su „tyliu kvietimu vyriausybei ilgainiui imtis daugiau veiksmų“. „Bloomberg“ liepos mėnesį pranešė, kad Trumpo administracija aktyviai svarstė šį planą po to, kai Silicio slėnio lyderiai pasiskundė dėl pastarojo meto JAV veiksmų valdant pažangias DI sistemas atsitiktinio pobūdžio.washingtonpost+1

Vadovybės pertvarka

Rugpjūčio 5 d. „Alphabet“ paskelbė, kad Hassabis pasitrauks iš „Google DeepMind“ generalinio direktoriaus pareigų ir taps padalinio pirmininku bei „Alphabet“ vyriausiuoju mokslininku. Tai reiškia perėjimą nuo kasdienio valdymo prie AGI strategijos ir mokslinių tyrimų. Koray Kavukcuoglu, „DeepMind“ technologijų direktorius, perėmė kasdienes operacijas kaip vyresnysis viceprezidentas, tiesiogiai pavaldus generaliniam direktoriui Sundarui Pichai.axios+2

Po pertvarkos patyręs inžinierius Jeffas Deanas ir keli kiti žymūs DI lyderiai, įskaitant Sanjay Ghemawat, Oriol Vinyals ir Quoc Le, paliko „Google“, kad įkurtų startuolį „Discovery Loop“.reuters+1

Saugumas konkurencijos sąlygomis

Hassabio spaudimo reguliavimui laikas kartu su jo pasitraukimu iš operatyvinės veiklos kelia klausimų, ar šie du įvykiai yra susiję. Pokalbiuose su kolegomis Hassabis lygino savo numatytą organizaciją su Tarptautine atominės energijos agentūra, pateikdamas ją kaip bendradarbiavimo organą, o ne baudžiamąjį reguliuotoją. Jo naujos „Alphabet“ vyriausiojo mokslininko ir „DeepMind“ pirmininko pareigos leidžia jam toliau pasisakyti už standartų organą be operatyvinių reikalavimų vadovauti vienai didžiausių pasaulyje DI laboratorijų.cnbc+1