„Anthropic“ samdo ginklų ekspertus, kad apsaugotų DI nuo piktnaudžiavimo

„Anthropic“ vykdo intensyvią vykdymo užtikrinimo analitikų ir dalykinių ekspertų paiešką, kuriems pavesta užkirsti kelią jos DI sistemų naudojimui kuriant masinio naikinimo ginklus, vykdant kibernetines atakas ar finansinį sukčiavimą.

Pastarosiomis dienomis bendrovė paskelbė eilę darbo skelbimų, ieškodama specialistų radiologinės ir branduolinės žalos, cheminių medžiagų ir sprogmenų, kibernetinių nusikaltimų bei kitų grėsmių kategorijose, kaip pirmasis pranešė „Axios“ ir išsamiai aprašė „Yahoo Finance“. Šioms pareigybėms, kuriose siūlomi atlyginimai siekia nuo 200 000 iki 300 000 JAV dolerių, nereikia programavimo įgūdžių – „Anthropic“ vietoj to nori realios patirties tokiose srityse kaip branduolinė fizika, biologija ir sprogmenys, taip pat gebėjimo mąstyti kaip užpuolikui, ieškančiam silpnų vietų bendrovės gynyboje.thenextweb+1

Augantis saugos aparatas

Viename skelbime, skirtame „Apsaugos priemonių vykdymo analitikui, radiologinei ir branduolinei žalai“, ieškoma kandidatų, turinčių branduolinės inžinerijos ar sveikatos fizikos išsilavinimą bei patirties masinio naikinimo ginklų neplatinimo ar grėsmių žvalgybos srityse. Kitame, skirtame kibernetinei žalai, analitikų prašoma aptikti ir sušvelninti bandymus panaudoti „Anthropic“ modelius piktavališkoms kibernetinėms operacijoms. Bendrovė taip pat samdo biologinės saugos mokslinius tyrėjus, turinčius virusologijos, mikrobiologijos ar susijusių sričių daktaro laipsnius, kad „apibrėžtų, kaip atrodo atsakinga DI sauga biologinėje srityje“.job-boards.greenhouse+2

„Anthropic“ atstovas spaudai „The Next Web“ teigė, kad „užtikrinimas, jog mūsų modeliai nepateiktų potencialiai žalingos informacijos, yra atsakingos plėtros pagrindas“, pridurdamas, kad šiuo metu saugos srityje dirba šimtai darbuotojų. BBC anksčiau šiais metais pranešė, kad „Anthropic“ ieškojo cheminių ginklų ir didelės galios sprogmenų eksperto, kad sušvelnintų tai, ką pavadino „katastrofišku piktnaudžiavimu“ jos technologija.bbc+1

Pakartotiniai D. Amodei įspėjimai

Šis samdos procesas glaudžiai susijęs su generalinio direktoriaus Dario Amodei įspėjimais, kuris didžiąją praėjusių metų dalį praleido keldamas aliarmą dėl pažangaus DI keliamų rizikų. Sausio mėnesio esė D. Amodei rašė, kad biologinės atakos jį neramina labiausiai, pažymėdamas, jog „susumavus milijonus žmonių ir kelerius metus, manau, kyla rimta didelės atakos rizika, kurios aukų skaičius gali siekti milijonus ar daugiau“. Jis taip pat įspėjo apie 6–12 mėnesių laikotarpį, per kurį įmonės ir vyriausybės turi pašalinti programinės įrangos pažeidžiamumus, kuriuos nustatė naujausi „Anthropic“ modeliai.axios+2

Savireguliacija įstatymų vakuume

„Anthropic“ nėra vienintelė, dedanti tokias pastangas. „OpenAI“ taip pat samdo tyrėjus, besikoncentruojančius į biologines ir chemines rizikas, siūlydama iki 445 000 JAV dolerių atlyginimą. Šios lygiagrečios pastangos pabrėžia neįprastą DI pramonės dinamiką: galingiausius modelius kuriančios įmonės taip pat yra tos, kurios samdo darbuotojus jų priežiūrai, nesant išsamių federalinių DI saugos įstatymų. D. Amodei pripažino šią įtampą, pavadindamas pačias DI įmones rizikos lygiu, esančiu tiesiog žemiau priešiškų valstybių.thenextweb