Hintonas: 10 proc. tikimybė, kad DI sunaikins žmoniją, yra „pagrįstas vertinimas“

Nobelio premijos laureatas, kompiuterių mokslininkas Geoffrey Hintonas antradienį „BBC Newsnight“ laidoje pareiškė, kad 10 proc. tikimybė, jog dirbtinis intelektas per ateinantį dešimtmetį sunaikins visą žmoniją, „atrodo ne toks jau nepagrįstas vertinimas“. Ši pastaba akivaizdžiai pribloškė laidos vedėją Victorią Derbyshire.ndtvprofit+1

„Mes niekada nesame sukūrę būtybių, kurios netrukus gali tapti protingesnės už mus. Mes nežinome, kas nutiks“, – sakė Hintonas, kai Derbyshire paklausė, ar šis skaičius yra patikimas. „10 proc. tikimybė man atrodo ne toks jau nepagrįstas vertinimas. Tačiau niekas iš tikrųjų nežino, kaip pateikti protingą įvertinimą.“ Kai Derbyshire pakartojo jo žodžius, Hintonas atsakė vienu žodžiu: „Taip.“ Jos reakcija – „Oho… o Dieve“ – greitai išplito internete.ndtv+1

Kaip DI gali sukelti katastrofą

Hintonas, 2024 m. gavęs Nobelio fizikos premiją už darbą mašininio mokymosi srityje, teigė, kad pažangiam DI nereikėtų fizinės kontrolės pasaulyje, kad jis keltų egzistencinę grėsmę. „Jis galėtų sukelti visišką chaosą vien bendraudamas su žmonėmis“, – sakė jis. „Tačiau jis taip pat galėtų sukurti labai bjaurius virusus – biologinius virusus – bei kompiuterinius virusus. Jis galėtų vykdyti niokojančias kibernetines atakas.“ Jis pridūrė, kad būtų „labai kvaila“ manyti, jog rizika yra tokia maža kaip 1 proc.ndtvprofit+1

UC Berkeley profesorius Stuartas Russellas pritarė šioms nuogąstavimams ir „Business Insider“ sakė, kad DI arba DI naudojantys veikėjai gali pulti kritinę infrastruktūrą, įskaitant elektros, vandens, transporto ir finansų sistemas.businessinsider

„Anthropic“ atsistatydinimai, įplieskę diskusijas

Hintono interviu įvyko po įvykių grandinės, prasidėjusios rugsėjo 8 d., kai Jacobas Coxonas, buvęs „OpenAI“ ir „Anthropic“ išankstinio mokymo tyrėjas, viešai atsistatydino. „Nė viena įmonė nesielgia atsakingai“, – rašė Coxonas platformoje X. „Jos lenktyniauja link savarankiškai tobulėjančio superintelekto ir žaidžia su mūsų gyvybėmis.“ibtimes+1

„Anthropic“ suderinimo mokslo vadovas Evanas Hubingeris tada viešai atsakė, kad Coxonas yra „teisus“ ir kad jis asmeniškai mano, jog yra didesnė nei 10 proc. tikimybė, kad DI per dešimtmetį gali sunaikinti visą žmoniją. „Mes dar neturime plano, kaip išspręsti superintelekto suderinimo problemą, ir nesame aiškiai kelyje tai padaryti“, – rašė Hubingeris.businessinsider+1

Aštrus ekspertų susiskaldymas

Ne visi tyrėjai dalijasi šiuo nerimu. DI tyrėjas Gary Marcusas „Business Insider“ sakė, kad kibernetines atakas, biologinius ginklus ir dezinformaciją laiko rimtomis rizikomis, tačiau nelaiko išnykimo realiu artimiausio laikotarpio rezultatu. „Yra keletas labai rimtų pavojų, dėl kurių reikia nerimauti, tačiau nėra jokio realaus scenarijaus, apie kurį žinočiau, kad DI iš tikrųjų „išžudytų visus žmones“, – sakė jis. „Meta“ ↗ 0.84% atstovas Yannas LeCunas anksčiau atmetė tokius tikimybės vertinimus kaip nuojautas – šią charakteristiką iš dalies pripažino ir pats Hintonas, CNN pasakęs, kad „kiekvienas, kuris vertina tikimybes tokiu būdu, iš tikrųjų tik spėlioja“.businessinsider+1

ITV vedėjas Robertas Pestonas prisidėjo prie diskusijos, platformoje X rašydamas: „Esu šiek tiek nustebęs, kad tai nesulaukė daugiau dėmesio, įskaitant ir vyriausybės viduje.“ladbible