„Google“ perkelia DI saugos komandą iš „DeepMind“ laboratorijos

„Google Alphabet Inc.“ ↗ 1.82% perkelia savo maždaug 90 narių DI atsakomybės komandą iš „Google DeepMind“ į savo Pasaulinių reikalų skyrių, kuris prižiūri lobizmą ir viešąją politiką, teigiama vidiniame el. laiške, kurį matė „The Wall Street Journal News Corp“ ↘ 1.19%. Šis rugsėjo pradžioje įsigaliojantis žingsnis sukėlė darbuotojų susirūpinimą, kad komandos nepriklausomybė ir gebėjimas nustatyti rizikas pažangiuose DI modeliuose bus sumažinti.wsj

Pertvarka po vadovybės pasikeitimų

Reorganizacija vykdoma po platesnių „DeepMind“ pokyčių, kurių metu vienas iš įkūrėjų ir generalinis direktorius Demis Hassabis pasitraukė į naujas pirmininko pareigas. Kai kurie DI atsakomybės komandos nariai išreiškė susirūpinimą, kad atskaitomybės struktūros pasikeitimas neigiamai paveiks jų darbą, teigia du „Journal“ cituojami esami „DeepMind“ darbuotojai.moomoo+1

Etikos komanda daugiausia dėmesio skyrė pažangiausių DI rizikų vertinimui, įskaitant cheminių, biologinių, radiologinių ir branduolinių pavojų vertinimą modelių testavimo metu, taip pat psichologinio poveikio, kurį sukelia vartotojų sąveika su DI pokalbių robotais, tyrimą. Darbuotojai nerimauja, kad komandos perkėlimas toliau nuo „Gemini“ modelio kūrimo grupės gali pakenkti jos gebėjimui atlikti nepriklausomus tyrimus ir įspėti apie kylančias grėsmes pažangiuose modeliuose.moomoo

„Google“ teigia, kad prieiga išliks

„Google“ tvirtina, kad komanda išlaikys prieigą prie „DeepMind“ išteklių, skaičiavimo galios ir personalo, o kitos grupės, atsakingos už modelio elgseną, privatumą ir saugumą, liks „DeepMind“ viduje. Pertvarka yra „DeepMind“ platesnės integracijos į „Google“ korporacinę struktūrą dalis, o susijusios žmogiškųjų išteklių ir politikos komandos taip pat perkeliamos iš laboratorijos.moomoo

Šis žingsnis žengtas vykstant nuolatiniams vadovybės pasikeitimams ir darbuotojų kaitai „DeepMind“, o tai kelia platesnių klausimų apie tai, kaip didžiosios DI laboratorijos suderina spartų galingų modelių kūrimą su vidiniais priežiūros mechanizmais, skirtais galimai žalai išvengti prieš diegimą.