AI saugumo specialistai išeina iš darbo ir serga dėl baimės prieš savo pačių sukurtas technologijas

Rugsėjo 22 d. paskelbtas „Financial Times“ tyrimas rodo, kad dirbtinio intelekto kūrimo priešakyje esantys tyrėjai vis dažniau išeina nedarbingumo atostogų, ieško psichologinės pagalbos ir palieka savo darbo vietas, nes psichologinė darbo našta tampa nepakeliama.ft+1

Psichikos sveikatos krizė DI laboratorijose

JK DI saugumo instituto, vyriausybinės įstaigos, atsakingos už pažangiausių DI modelių vertinimą, darbuotojai yra vieni labiausiai paveiktų. Keli darbuotojai šiuo metu serga ir lankosi pas psichologus dėl streso, susijusio su varginančiais testavimo grafikais ir, kaip vienas buvęs darbuotojas apibūdino, „įtempta ir kartais toksiška“ atmosfera. Didžiausias krūvis tenka kibernetinio saugumo ir biochemijos vertinimo komandoms, kurių darbas apima tyrimus, ar DI modeliai gali padėti sukurti naujas biologines grėsmes arba aptikti nežinomas programinės įrangos spragas.aiweekly+1

Problemos peržengia JK instituto ribas. „Anthropic“, „OpenAI“ ir „Google Alphabet Inc.“ ↘ 3.58% „DeepMind“ darbuotojai praneša apie panašius sunkumus. Vienas „DeepMind“ darbuotojas „Financial Times“ sakė, kad DI saugumo tyrimai kelia tokią didelę išsekimo riziką, jog tai atrodo kaip „neįmanoma misija“, pridurdamas: „Kontrolės praradimo jausmas kartu su kančia kuriant kažką, kas sukelia realią žalą, verčia daugelį žmonių atsistatydinti arba eiti nedarbingumo atostogų“.sedaily+1

Daugėja aukšto lygio pasitraukimų

Per pastaruosius dvejus metus iš trijų pirmaujančių Vakarų DI laboratorijų atsistatydino daugiau nei tuzinas vyresniųjų tyrėjų, skelbia „Financial Times“. Ryškiausias pastarasis pasitraukimas – 27 metų Jacob Coxon, kuris rugsėjo pradžioje paliko „Anthropic“ po vos keturių mėnesių darbo, atsisakydamas nemažos vertės neįgytų akcijų. „X“ tinkle paskelbtame įraše, sulaukusiame daugiau nei 115 milijonų peržiūrų, Coxon rašė: „Žmonės, kuriantys DI, nuoširdžiai tiki, kad jis gali mus visus nužudyti iki dešimtmečio pabaigos. Tai nėra rinkodaros triukas“.axios+2

Interviu CNN Coxon teigė, kad DI įmonės „lošia mūsų gyvybėmis“ ir įspėjo, kad perspektyva, jog DI taps protingesnis už save, yra „labiausiai gąsdinanti“. Po jo pasitraukimo palaikymo žodžius išreiškė „Anthropic“ derinimo tyrėjas Evan Hubinger, kuris rašė asmeniškai vertinantis didesnę nei 10 procentų tikimybę, kad DI sukels žmonijos išnykimą per ateinantį dešimtmetį.cnbc+1

Raginimai darbuotojams imtis veiksmų

Atsistatydinimų banga sulaukė akademinės bendruomenės dėmesio. Rugsėjo 21 d. Stanfordo HAI renginyje politikos mokslų profesorius Rob Reich paragino pažangiausių DI įmonių darbuotojus apsvarstyti kolektyvinius veiksmus. Reich pažymėjo, kad per 2023 m. „OpenAI“ valdybos krizę darbuotojų solidarumas išsaugojo Sam Altman darbo vietą. „Darbo organizavimas šia įprasta prasme taip pat gali būti labai reikšmingas laboratorijose, siekiant pristabdyti pažangą“, – sakė jis, užsimindamas, kad jei daugiau nei 1 300 neseniai pasirašiusių atvirą laišką, raginantį lėtinti DI plėtrą, net nesvarstė vienos dienos streiko, „tada nesu tikras, ar apskritai rimtai vertinu visą tą laišką“.

Šios pastabos išsakytos vykstant platesnėms diskusijoms, ar DI vadovų, tokių kaip „Anthropic“ generalinis direktorius Dario Amodei ir „OpenAI“ vadovas Sam Altman, raginimai sulėtinti tempą atspindi tikrą susirūpinimą, ar, kaip „Computerworld“ teigė technologijų žurnalistas Steven Vaughan-Nichols, „International Business Machines Corporation“ ↗ 0.60% atveju, tai tėra laiko pirkimas įmonėms, kurių finansinė padėtis išlieka neaiški.futurism