JK parlamentaras ragina sudaryti DI sutartį po „Anthropic“ įspėjimo

Leiboristų parlamentaras Darrenas Jonesas paragino sudaryti naują tarptautinę sutartį, reglamentuojančią superintelekto plėtrą, reaguodamas į „Anthropic“ tyrėjo Jacobo Coxono atsistatydinimą ir po jo sekusius saugumo įspėjimus. D. Jonesas, buvęs ministras, turintis ilgametę patirtį technologijų politikos srityje, trečiadienį socialiniame tinkle „X“ paskelbė, kad nors jis „niekada nemanė, jog turėtume drausti inovacijas ar mokslinę veiklą“, dabar „aišku, kad mums reikia naujos tarptautinės sutarties dėl saugaus ir reguliuojamo superintelekto vystymo“.x+1

„Anthropic“ pavojaus signalas

D. Joneso įsikišimas įvyko praėjus kelioms valandoms po to, kai 27 metų tyrėjas J. Coxonas, trejus metus dirbęs „OpenAI“ ir „Anthropic“, paskelbė „X“ tinkle, kad atsistatydina ir visiškai palieka DI pramonę. „Nė viena įmonė nesielgia atsakingai“, – rašė J. Coxonas. „Jos skuba link savarankiškai tobulėjančio superintelekto ir rizikuoja mūsų gyvybėmis.“cnbc+1

Atsistatydinimas sulaukė ryškaus viešo atgarsio iš Evano Hubingerio, „Anthropic“ dirbančio saugumo vadovo. „Jacobas čia teisus – mes tikrai nuoširdžiai tikime, kad DI gali nužudyti visus žmones“, – „X“ tinkle rašė E. Hubingeris. „Asmeniškai manau, kad per ateinantį dešimtmetį tikimybė yra didesnė nei 10%. Tikiu, kad „Anthropic“ stengiasi iš visų jėgų, tačiau mes dar neturime plano, kaip išspręsti superintelekto suderinamumo problemą.“newsweek+1

D. Jonesas tiesiogiai atsakė į E. Hubingerio įrašą: „Jei tokio lygio rizika yra tiesa, DI laboratorijos bent jau turi sulėtinti tempą.“x

Politinis kontekstas

D. Jonesas ėjo Lankasterio kunigaikštystės kanclerio ir ministro pirmininko kanceliarijos vadovo pareigas Keiro Starmerio vyriausybėje, kol 2026 m. liepą jį iš kabineto pašalino naujasis ministras pirmininkas Andy Burnhamas. Būdamas parlamento nariu, jis išlieka vienu ryškiausių balsų technologijų valdymo klausimais, įkūręs Tarpparlamentinį forumą dėl kylančių technologijų.aiforgood.itu+2

Jo raginimas atspindi augantį nerimą DI tyrimų bendruomenėje. Vasario mėnesį „Anthropic“ saugumo tyrimų vadovas Mrinankas Sharma atsistatydino įspėdamas, kad „pasauliui gresia pavojus“. O rugsėjo 6 d. „OpenAI“ vyriausiasis mokslininkas Jakubas Pachockis rašė, kad nė viena įmonė dar negali patikimai išlaikyti savo pažangiausių modelių žmogaus kontrolėje.bbc+2

Kas toliau

Ar D. Joneso raginimas sulauks pritarimo parlamente, dar pamatysime. JK 2023 m. Bletchley parke surengė pirmąjį pasaulinį DI saugumo aukščiausiojo lygio susitikimą, tačiau privalomas tarptautinis reglamentavimas išlieka sunkiai pasiekiamas. Palyginti jaunesnio tyrėjo atsistatydinimas paprastai sulauktų nedidelio dėmesio, tačiau E. Hubingerio viešas pritarimas šiam susirūpinimui, sklindantis iš vienos pirmaujančių pasaulio DI laboratorijų, suteikė šiam įvykiui neįprasto svorio.