„Anthropic“ bendraujas ragina įteisinti privalomą dirbtinio intelekto „avarinį išjungiklį“

„Anthropic“ bendraujas Jackas Clarkas pirmadienį BBC pareiškė, kad vyriausybės turėtų apsvarstyti reikalavimą dirbtinio intelekto įmonėms savo sistemose įdiegti nepriklausomai patikrinamus „avarinio išjungimo“ mechanizmus. Tai suteiktų teisinį pagrindą vis garsiau skambantiems pramonės atstovų nuogąstavimams dėl dirbtinio intelekto plėtros tempo.bbc

Clarkas teigė, kad nors dauguma pagrindinių dirbtinio intelekto laboratorijų, įskaitant „Anthropic“, jau turi vidinius mechanizmus programinei įrangai išjungti, savanoriškų apsaugos priemonių gali nepakakti. „Ar įmonės turėtų privalėti turėti avarinį išjungiklį? Ar tas išjungiklis turėtų būti tikrinamas trečiosios šalies?“ – interviu klausė Clarkas, pabrėždamas, kad šie klausimai yra esminiai „platesniame politiniame dialoge“ apie dirbtinį intelektą.bbc

Nerimo savaitė

Šie komentarai vainikuoja neramų laikotarpį „Anthropic“ ir visam dirbtinio intelekto sektoriui. Rugsėjo 8 d. „Anthropic“ tyrėjas Evanas Hubingeris viešai pareiškė manantis, kad per ateinantį dešimtmetį yra didesnė nei 10 procentų tikimybė, jog dirbtinis intelektas sukels žmonijos išnykimą – šį skaičių Nobelio premijos laureatas Geoffrey Hintonas BBC pavadino „visai pagrįstu“. Prieš tai iš pareigų pasitraukė tyrėjas Jacobas Coxonas, apkaltinęs dirbtinio intelekto laboratorijas „lenktynėmis link savarankiškai tobulėjančio superintelekto ir žaidimu mūsų gyvybėmis“.bbc+2

Šeštadienį „Anthropic“ generalinis direktorius Dario Amodei paskelbė 3 800 žodžių esė, raginančią plačiu mastu sulėtinti dirbtinio intelekto galimybių plėtrą, argumentuodamas, kad pramonei reikia „papildomų vienerių ar dvejų metų“ apsaugos priemonėms įgyvendinti. Šią esė greitai parėmė „OpenAI“ generalinis direktorius Samas Altmanas, Elonas Muskas ir „Google Alphabet Inc.“ ↗ 0.78% „DeepMind“ vadovas Demis Hassabis. Prezidentas Donaldas Trumpas sekmadienį atmetė šiuos įspėjimus, pavadindamas kritikus „labai neigiamomis jėgomis“ ir tvirtindamas, kad Jungtinės Valstijos privalo išlaikyti technologinį pranašumą.cbc+2

Artėjantis IPO

Clarko raginimas griežčiau reguliuoti sektorių pasirodė komerciškai svarbiu „Anthropic“ momentu, nes įmonė ruošiasi pirminiam viešam akcijų siūlymui, kuris gali įvykti jau spalio mėnesį. „Financial Times“ duomenimis, investuotojai tikisi, kad įmonės vertė gali siekti apie 2 trilijonus dolerių – tai būtų didžiausias IPO istorijoje. Investuotojai FT teigė, kad „Anthropic“ metinės pajamos iki 2026 m. pabaigos turėtų pasiekti 100–120 milijardų dolerių, t. y. daugiau nei dešimteriopai daugiau nei per metus.qz+1

Clarkas pripažino įtampą tarp raginimų riboti plėtrą ir veikimo itin konkurencingoje rinkoje. Jis įspėjo, kad leisti dirbtiniam intelektui išlikti „visiškai nereguliuojama pramone“ yra pavojingas kelias. „Mes lošiame su milžiniška rizika“, – sakė jis. „Esmė ta, kad turime pakeisti šios pramonės trajektoriją“.bbc