Buvęs „DeepMind“ mokslininkas: DI vystosi per greitai, kad jį būtų galima suvaldyti

Alexas Turneris, buvęs „Google Alphabet Inc.“ ↘ 1.24% „DeepMind“ komandos mokslininkas, pirmadienį „Bloomberg“ eteryje teigė, kad dirbtinio intelekto plėtros tempas aplenkė vyriausybių, įmonių ir konkuruojančių supervalstybių gebėjimą suvaldyti su tuo susijusias rizikas. Jo komentarai pasirodė po precedento neturinčios bangos raginimų iš aukščiausio lygio DI vadovų pristabdyti šios srities veržlią plėtrą.

Didėjanti pranešėjo platforma

Turneris pasitraukė iš „Google DeepMind“ birželį, kai įmonė pasirašė susitarimą, leidžiantį Pentagonui naudoti jos DI slaptiems darbams. Pasak jo, šiame susitarime trūko privalomų apribojimų dėl autonominių ginklų ar masinio sekimo. Nuo to laiko jis tapo vienu ryškiausių balsų, įspėjančių apie DI trajektoriją. Praėjusią savaitę pasirodęs CNBC eteryje, jis teigė esąs susirūpinęs dėl „išnykimo rizikos“, kylančios iš šios technologijos.cnbc+2

Pirmadienio interviu „Bloomberg“ Turneris pabrėžė rekursinį savęs tobulinimą – DI sistemų gebėjimą gerinti savo pačių galimybes – kaip pagrindinį pavojų, įspėdamas, kad tai gali greitai sukurti intelektą, viršijantį žmogaus suvokimą. Jis taip pat nurodė skaičiavimo pajėgumų stebėjimą kaip praktinį reguliavimo svertą, teigdamas, kad milžiniškos skaičiavimo galios, reikalingos pažangiausiems modeliams mokyti, stebėjimas galėtų suteikti vyriausybėms konkretų būdą įgyvendinti apribojimus. Turneris pripažino, kad pastarojo meto „Big Tech“ raginimai sulėtinti tempą gali būti iš dalies nuoširdūs, o iš dalies – strateginis žingsnis siekiant įtvirtinti pranašumą.bloomberg

Pramonės choras garsėja

Turnerio įspėjimai nuskamba svarbią savaitę DI saugumo diskusijoms. Šeštadienį „Anthropic“ generalinis direktorius Dario Amodei paskelbė 3 800 žodžių esė pavadinimu „Mes privalome sulėtinti pažangą“, ragindamas laboratorijas sąmoningai pristabdyti galimybių augimą, kad saugumo tyrimai galėtų suspėti. „OpenAI“ generalinis direktorius Samas Altmanas ir Elonas Muskas viešai pritarė šiai žinutei. Demis Hassabis, vadovaujantis „Google DeepMind“, taip pat išreiškė pritarimą.cnbc+1

Amodei pateikė trijų žingsnių sistemą: nepriklausomų vertintojų įtraukimas į laboratorijas, saugumo standartų koordinavimas tarp demokratinių valstybių ir galiausiai šių susitarimų išplėtimas visame pasaulyje, įskaitant Kiniją. Visgi pirmadienio duomenimis, nė viena konkuruojanti laboratorija nebuvo prilygusi „Anthropic“ konkrečiam įsipareigojimui suteikti trečiųjų šalių auditoriams darbuotojo lygio prieigą.shattered

Kinijos dilema

Geopolitinis aspektas yra itin svarbus. Pats Amodei pavadino Kiniją „sunkiausia dilema“ bet kokiam sulėtinimo pasiūlymui, pripažindamas riziką, kad vienašališkas Vakarų laboratorijų susilaikymas gali užleisti pozicijas Pekinui. Turneris, atskirame susirašinėjime socialiniuose tinkluose, oponavo D. Trumpo administracijos DI vadovui Davidui Sackui, kuris atmetė raginimus įvesti tempą ribojančius įstatymus kaip bandymą slopinti konkurenciją. Sekmadienį „Guardian“ paskelbtame straipsnyje Turneris rašė, kad sprendimas yra „paprastas: neleisti įmonėms įgalinti DI savarankiškai tobulėti viršijant valdomą intelekto lygį“.politomix+3