Hinton: 10 prosentin todennäköisyys tekoälyn aiheuttamalle ihmiskunnan tuholle on kohtuullinen arvio

Nobel-palkittu tietojenkäsittelytieteilijä Geoffrey Hinton kertoi tiistaina BBC Newsnightille, että 10 prosentin todennäköisyys sille, että tekoäly tuhoaa koko ihmiskunnan seuraavan vuosikymmenen aikana, "ei vaikuta kohtuuttomalta arviolta". Huomautus jätti juontaja Victoria Derbyshiren silminnähden hämmentyneeksi suorassa lähetyksessä.ndtvprofit+1

"Emme ole koskaan luoneet olentoja, jotka saattavat pian olla meitä älykkäämpiä. Emme tiedä, mitä tulee tapahtumaan", Hinton sanoi, kun Derbyshire kysyi, onko luku uskottava. "10 prosentin mahdollisuus ei vaikuta minusta kohtuuttomalta arviolta. Mutta kukaan ei todellisuudessa tiedä, miten antaa järkevä arvio." Kun Derbyshire toisti hänen sanansa, Hinton vastasi yhdellä sanalla: "Kyllä." Hänen reaktionsa — "Vau… luoja paratkoon" — levisi nopeasti verkossa.ndtv+1

Miten tekoäly voisi aiheuttaa tuhoa

Vuoden 2024 fysiikan Nobel-palkinnon koneoppimistyöstään saanut Hinton totesi, ettei kehittynyt tekoäly tarvitsisi fyysistä maailmanhallintaa ollakseen eksistentiaalinen uhka. "Se voisi aiheuttaa täydellisen kaaoksen pelkästään puhumalla ihmisille", hän sanoi. "Mutta se pystyisi myös suunnittelemaan erittäin ilkeitä viruksia — biologisia viruksia — sekä tietokoneviruksia. Se voisi toteuttaa tuhoisia kyberhyökkäyksiä." Hän lisäsi, että olisi "hyvin typerää" olettaa riskin olevan vain 1 prosentin luokkaa.ndtvprofit+1

UC Berkeleyn professori Stuart Russell yhtyi huoliin ja kertoi Business Insiderille, että tekoäly tai tekoälyä hyödyntävät toimijat voisivat hyökätä kriittisen infrastruktuurin, kuten sähkö-, vesi-, liikenne- ja rahoitusjärjestelmien, kimppuun.businessinsider

Anthropicin irtisanoutumiset, jotka käynnistivät keskustelun

Hintonin haastattelua edelsi tapahtumaketju, joka alkoi 8. syyskuuta, kun Jacob Coxon, entinen esikoulutustutkija sekä OpenAI:lla että Anthropicilla, irtisanoutui julkisesti. "Kumpikaan yritys ei toimi vastuullisesti", Coxon kirjoitti X:ssä. "Ne kilpailevat suoraan kohti itseään kehittävää superälyä ja pelaavat elämillämme."ibtimes+1

Anthropicin linjaustieteen johtaja Evan Hubinger vastasi julkisesti, että Coxon oli "oikeassa" ja että hän uskoo henkilökohtaisesti, että on yli 10 prosentin mahdollisuus, että tekoäly voisi tappaa kaikki ihmiset vuosikymmenen sisällä. "Meillä ei ole vielä suunnitelmaa superälyn linjausongelman ratkaisemiseksi, emmekä ole selvästi matkalla kohti sen ratkaisemista", Hubinger kirjoitti.businessinsider+1

Jyrkkä jako asiantuntijoiden kesken

Kaikki tutkijat eivät jaa huolta. Tekoälytutkija Gary Marcus kertoi Business Insiderille pitävänsä kyberhyökkäyksiä, biologisia aseita ja disinformaatiota vakavina riskeinä, mutta ei pidä sukupuuttoa realistisena lähitulevaisuuden lopputuloksena. "On olemassa erittäin vakavia haittoja, joista olla huolissaan, mutta en tiedä yhtään realistista skenaariota 'kaikkien ihmisten tappamisesta'", hän sanoi. Metan ↗ 0.83% Yann LeCun on aiemmin tyrmännyt tällaiset todennäköisyysarviot pelkkinä mututuntumina — luonnehdinta, jonka Hinton itse on osittain hyväksynyt kertoen CNN:lle, että "kuka tahansa, joka arvioi todennäköisyyksiä tuolla tavalla, tekee todellisuudessa vain villin arvauksen".businessinsider+1

ITV:n juontaja Robert Peston lisäsi oman äänensä keskusteluun kirjoittamalla X:ssä: "Olen hieman hämmästynyt, ettei tämä ole herättänyt enemmän huomiota, myös hallituksen sisällä."ladbible