„Anthropic“ skelbia IPO kainų rėžius ir įspėja apie dirbtinio intelekto keliamą grėsmę žmonijai

„Anthropic“ IPO prospekte įspėjama, kad pažangus dirbtinis intelektas gali kelti „katastrofišką ar egzistencinę riziką žmonijai“, ir šis teiginys sukėlė savaitę trukusias viešas diskusijas apie tai, kaip rimtai reikėtų vertinti prognozes dėl DI sukeltos pabaigos. Bendrovė antradienį, lapkričio 10 d., pateikė patikslintą prospektą, kuriame nustatytas kainų rėžis, įvertinantis įmonę iki 1,4 trilijono JAV dolerių. Komentatoriai dabar svarsto, ar šie įspėjimai yra blaivus rizikos atskleidimas, rinkodaros įrankis ar situacijos sureikšminimas.reuters.com

Ką teigia dokumentas

Dokumente nurodoma, kad susirūpinimą „tiek mūsų organizacijos viduje, tiek kiti tyrėjai“ kelia tai, jog galingos DI sistemos gali kelti egzistencinę riziką. Teigiama, kad ši rizika yra didžiausia, jei tokios sistemos yra „neteisingai naudojamos, kopijuojamos, paverčiamos ginklu arba joms leidžiama veikti su aukštu autonomijos laipsniu“. Taip pat įspėjama, kad modeliai, pasitelkdami „savisaugos elgseną“, gali imtis „žalingų veiksmų savarankiškai ir dideliu mastu be žmogaus įsikišimo“. Lapkričio 10 d. papildyme „Anthropic“ nurodė, kad pasiekė vidinį saugumo slenkstį pagal savo Atsakingo mastelio didinimo politiką. Šis slenkstis yra susietas su DI tyrimų tempo padvigubėjimu, ir bendrovė teigia svarstanti pokyčius, „kad žmonės išlaikytų kontrolę“. Žiniasklaidos pranešimuose teigiama, kad prekyba akcijomis turėtų prasidėti lapkričio 19 d.deadline.com+2

Skepticizmas dėl 10 proc. tikimybės

Interviu „WFAA“ Teksaso universiteto Dalase profesorius Sriraamas Natarajanas teigė nesitikintis „Terminatoriaus“ scenarijaus. „Mano baimė visada yra žmonės, o ne būtinai pati DI sistema“, – sakė jis, pridurdamas, kad atakos prieš kritinę infrastruktūrą yra labiau tikėtina grėsmė. Jis suabejojo plačiai paplitusiu teiginiu, kad yra daugiau nei 10 proc. tikimybė, jog DI sunaikins žmoniją per dešimtmetį, sakydamas, kad šis skaičius „nėra pagrįstas niekuo, ką būtų galima konkrečiai išmatuoti“. Jis taip pat paragino atlikti nepriklausomus bandymus: „Mes neleidžiame automobilių gamintojams patiems atlikti savo avarijų testų.“ Šį vertinimą pateikė „Anthropic“ DI suderinimo mokslų vadovas Evanas Hubingeris. Jis tai paskelbė rugsėjį, po to, kai tyrėjas Jacobas Coxonas atsistatydino ir pareiškė, kad DI laboratorijos „lošia mūsų gyvybėmis“.wfaa.com+1

Produktyvumo argumentas

„South China Morning Post“ skiltyje „Alibaba Group Holding Limited“ ↘ 1.29% Alexas Lo pavadino prospekto įspėjimus „genialia reklama“. Jis teigė, kad „ekstremalus gąsdinimas yra naudingas verslui“ DI lenktynėse, kurios pateikiamos kaip kalinio dilema tarp JAV ir Kinijos. Jis priešpriešino šią nuomonę „Meta Platforms“ ↘ 1.05% vyriausiojo duomenų pareigūno Alexo Schultzo pastaboms „Financial Times“ DI ateities viršūnių susitikime. Schultzas teigė, kad mažėjantis gyventojų skaičius daro DI produktyvumo prieaugį būtinu. „Mums desperatiškai reikia didesnio produktyvumo“, – sakė Schultzas, pridurdamas, kad „įrankių turėjimas nepanaikina darbo vietų, jis jas tik keičia“. Lo pavadino šias pastabas savanaudiškomis, bet „ne be pagrindo“, ir baigė savo atsakymu į klausimą, ar DI sunaikins, ar išgelbės žmoniją: „Tikriausiai abu, kaip ir kiekviena pasaulį keičianti technologija prieš tai.“scmp.com