„Anthropic“ įkūrėjas: dirbtinio intelekto „avarinis išjungiklis“ gali tapti teisine prievole

Buvęs „Anthropic“ ir „OpenAI“ tyrėjas Jacobas Coxonas, kurio atsistatydinimas praėjusią savaitę sukėlė nerimą technologijų pramonėje, NBC laidoje „Meet the Press“ sakė, kad nors šiandien techniškai įmanoma išjungti DI sistemas, šis langas gali greitai užsidaryti. Jo įspėjimas nuskambėjo tuo metu, kai „Anthropic“ įkūrėjas Jackas Clarkas atskirai BBC pareiškė, kad trečiosios šalies patikrintas „avarinis išjungiklis“ gali tapti teisiniu reikalavimu DI įmonėms.bbc

J. Coxonas, rugsėjo 9 d. pasitraukęs iš „Anthropic“ ir parašęs, kad „žmonės, kuriantys DI, nuoširdžiai tiki, jog jis gali mus visus pražudyti iki dešimtmečio pabaigos“, savaitgalį pasinaudojo žiniasklaidos priemonėmis, kad paremtų „Anthropic“ vadovo Dario Amodei raginimą lėtinti DI plėtrą. Šeštadienį laidoje „Meet the Press“ jis teigė, kad avarinis išjungiklis „tikriausiai dabar veiktų daugeliui DI sistemų“, tačiau įspėjo, jog „labai greitai gali atsirasti galimybė, kad išjungiklis tiesiog neveiks, nes DI spiečius gali pradėti įsilaužimus visame internete“.thestatesman+2

Pramonės lyderiai vienijasi dėl ribojimų

J. Coxono viešoji kampanija paskatino neįprastą aršių konkurentų susivienijimą. D. Amodei savaitgalį pasiūlė trijų dalių saugumo sistemą, įskaitant nuolatinius trečiųjų šalių vertintojus DI įmonių viduje, bendrus saugumo standartus demokratinėse šalyse ir tarptautinį koordinavimą. „OpenAI“ vadovas Samas Altmanas, Elonas Muskas ir „Google Alphabet Inc.“ ↗ 3.06% „DeepMind“ vadovas Demis Hassabis parėmė šį platesnį raginimą riboti plėtrą.ciodive+1

„Microsoft“ ↗ 1.97% vadovas Satya Nadella taip pat išreiškė paramą, socialiniame tinkle X rašydamas, kad „bet koks superintelekto siekis turi būti pagrįstas esminiu principu: jei mūsų kuriamas DI nepadeda žmonijai ir nėra valdomas žmonių, jis nėra vertas pastangų“. S. Nadella pritarė įdiegtų vertintojų idėjai ir paragino kurti valdymą, kuris apimtų daugiau nei „saujelę subjektų“.thestatesman+1

Diskusijos dėl išjungiklio persikelia į įstatymų leidybą

J. Clarkas BBC sakė, kad nors „dauguma laboratorijų turi įvairių metodų savo sistemoms išjungti“, reguliuotojai gali būti priversti įteisinti tokias priemones. Jungtinėse Valstijose įstatymų leidėjai pasiūlė „Avarinio išjungiklio aktą“ (Kill Switch Act), kuris įpareigotų įmones įdiegti išjungimo mechanizmus ir suteiktų vyriausybės agentūroms teisę reikalauti išjungti tam tikrus įrankius.bbc

„Anthropic“ tyrėjas Evanas Hubingeris pabrėžė diskusijų skubumą, viešai pareikšdamas, kad, jo nuomone, DI sukeltos žmonijos išnykimo tikimybė yra „didesnė nei 10% per ateinantį dešimtmetį“. Nobelio premijos laureatas Geoffrey Hintonas šį vertinimą pavadino „visai pagrįstu“.bbc

Ne visi su tuo sutinka. Prezidentas Donaldas Trumpas pirmadienį paskelbė pareiškimą, kuriame pasipriešino plėtros lėtinimui, įspėdamas, kad tai gali pakenkti Amerikos konkurencingumui. JK vyriausybė taip pat atmetė avarinio išjungiklio idėją, atstovui spaudai teigiant, kad tai „neapsaugotų nuo plėtros ar piktnaudžiavimo kitur“.ciodive+1

J. Coxonui argumentas paprastesnis. „Mano asmeninė nuomonė būtų reikalauti ir leisti dabartinėms laboratorijoms reguliuotis pačioms“, – sakė jis NBC News. „Manau, kad žmonės, vadovaujantys laboratorijoms, ypač atsižvelgiant į jų pastarojo meto komunikaciją, yra visiškai nuoširdūs. Jie patys norėtų sulėtinti tempą“.economictimes