„Anthropic“ saugos vadovas: dirbtinis intelektas turi daugiau nei 10 proc. tikimybę sunaikinti žmoniją

Evanas Hubingeris, vadovaujantis „Anthropic“ dirbtinio intelekto suderinimo moksliniams tyrimams, antradienį socialiniame tinkle „X“ paskelbė asmeniškai manantis, kad per artimiausią dešimtmetį yra didesnė nei 10 proc. tikimybė, jog DI „gali sunaikinti visus žmones“. Šis pareiškimas sulaukė daugiau nei 10 mln. peržiūrų ir sukėlė finansų rinkų diskusijas dėl numatomo bendrovės pirminio viešo akcijų siūlymo (IPO).bbc+2

„Jacobas čia teisus – mes iš tikrųjų nuoširdžiai tikime, kad DI gali sunaikinti visus žmones! Aš asmeniškai manau, kad tikimybė yra >10 proc. per artimiausią dešimtmetį“, – rašė Hubingeris. „Tikiu, kad „Anthropic“ deda visas pastangas, tačiau mes dar neturime plano, kaip išspręsti superintelekto suderinimo problemą, ir akivaizdu, kad nesame kelyje į tai.“x

Atsistatydinimas sukėlė grandininę reakciją

Hubingerio įrašas buvo atsakas Jacobui Coxonui, DI tyrėjui, kuris „X“ tinkle paskelbė paliekantis „Anthropic“ po trejų metų darbo „Anthropic“ ir „OpenAI“ bendrovėse. Coxonas apkaltino abi įmones „lenktynėmis link besitobulinančio superintelekto ir lošimu mūsų gyvybėmis“.nypost+1

„Žmonės, kuriantys DI, nuoširdžiai tiki, kad jis gali mus visus sunaikinti iki dešimtmečio pabaigos. Tai nėra rinkodaros triukas“, – rašė Coxonas, pridurdamas, kad vadovai ir vyresnieji tyrėjai privačiai išreiškia baimę, kurią viešai sušvelnina.saudigazette+1

Trečiasis „Anthropic“ darbuotojas, atsakingas už keičiamo masto priežiūrą Samuelis Marksas, toje pačioje diskusijoje pridūrė savo vertinimą rašydamas, kad „apskritai, kuo aukštesnes pareigas užima darbuotojas, tuo labiau jis nerimauja“.breitbart

Crameris keičia nuomonę: nuo susižavėjimo iki dvejonių

Šie atskleidimai sukėlė neįprastą situaciją CNBC eteryje. Antradienio vakarą laidoje „Mad Money“ Jimas Crameris žiūrovams sakė, kad „Anthropic“ „gali tapti milžinišku IPO, o investuotojai pardavinės kitas akcijas, kad surinktų lėšų dalyvavimui“. Trečiadienio rytą laidoje „Squawk on the Street“ jis lygino Hubingerio prognozę su chirurginės operacijos rizika. „Jei kada nors buvote situacijoje, kai jums reikia operacijos, o jos mirtingumo tikimybė yra didesnė nei 5 proc., jūs jos nedarote… 10 proc. yra dvigubai daugiau nei 5 proc.“, – sakė Crameris, pridurdamas, kad yra „labai nustebęs, jog šis žmogus vis dar dirba“ „Anthropic“.tech-insider+1

„Anthropic“ dar nepateikė S-1 formos JAV vertybinių popierių ir biržų komisijai (SEC) ir išlieka privačia bendrove, nors „Financial Times News Corp“ ↘ 10.66% pranešė, kad akcininkai tikisi, jog bendrovė galiausiai bus įvertinta daugiau nei 2 trilijonais dolerių. Anksčiau bendrovė pritraukė H serijos investicijų, kurių metu buvo įvertinta 965 milijardais dolerių.247wallst+1

Perspėjimų modelis

Hubingerio prognozė patenka į kitų žinomų DI srities veikėjų nustatytą ribą. „Anthropic“ generalinis direktorius Dario Amodei anksčiau minėjo maždaug 25 proc. katastrofiškų pasekmių tikimybę, o Geoffrey Hintonas, pasak „Axios“, įvertino šią tikimybę nuo 10 iki 20 proc. Tačiau Hubingerio pareiškimas turi ypatingą svorį, nes tai oficialus vardinis darbuotojo, kurio darbas yra spręsti būtent šią problemą, komentaras, pasirodęs įsibėgėjant IPO spekuliacijoms.tech-insider

Šis epizodas taip pat sekė po „Financial Times“ pranešimo, kad „Anthropic“ nuslėpė savo naujausią modelį nuo Jungtinės Karalystės DI saugos instituto. Kembridžo universiteto mašininio mokymosi profesorius Neilas Lawrence'as BBC sakė, kad pranešimas yra patikimas, atsižvelgiant į aplinkybes, kuriomis Jungtinės Valstijos „labai aiškiai mato DI kaip lenktynes“ su Kinija.bbc+1

Nei „Anthropic“, nei „OpenAI“ nerodo ženklų, kad lėtintų plėtrą. „OpenAI“ vyriausiasis mokslininkas Jakubas Pachocki anksčiau šį mėnesį paragino elgtis „itin atsargiai“, tačiau nesustabdė darbų. Atviras laiškas, kurį pasirašė 1300 DI įmonių darbuotojų, paragino JAV vyriausybę padėti „sąmoningai reguliuoti DI plėtros tempą“.saudigazette+1