Hinton mener 10 prosent sjanse for at KI utrydder menneskeheten er et rimelig estimat

Nobelprisvinnende informatiker Geoffrey Hinton fortalte BBC Newsnight på tirsdag at en 10 prosent sannsynlighet for at kunstig intelligens tar livet av alle mennesker i løpet av det neste tiåret "virker som et ikke urimelig estimat," en uttalelse som etterlot programleder Victoria Derbyshire synlig sjokkert på luften.ndtvprofit+1

"Vi har aldri skapt vesener som snart kan bli smartere enn oss. Vi vet ikke hva som kommer til å skje," sa Hinton da han ble spurt av Derbyshire om tallet var troverdig. "En 10 prosent sjanse virker ikke som et urimelig estimat for meg. Men ingen vet egentlig hvordan man gir et fornuftig estimat." Da Derbyshire gjentok ordene hans, svarte Hinton med ett enkelt ord: "Ja." Hennes respons — "Wow… oh my God" — spredte seg raskt på nettet.ndtv+1

Hvordan KI kan forårsake ødeleggelse

Hinton, som vant Nobelprisen i fysikk i 2024 for sitt arbeid med maskinlæring, sa at avansert KI ikke ville trenge fysisk kontroll over verden for å utgjøre en eksistensiell trussel. "Den ville kunne forårsake totalt kaos bare ved å snakke med folk," sa han. "Men den ville også kunne designe svært ekle virus — biologiske virus — i tillegg til datavirus. Den kunne utføre ødeleggende cyberangrep." Han la til at det ville være "svært uklokt" å anta at risikoen var så lav som 1 prosent.ndtvprofit+1

Stuart Russell, professor ved UC Berkeley, støttet disse bekymringene og fortalte Business Insider at KI eller KI-aktiverte aktører kan angripe kritisk infrastruktur, inkludert strøm, vann, transport og finansielle systemer.businessinsider

Anthropic-oppsigelsene som utløste debatten

Hintons intervju fulgte en rekke hendelser som startet 8. september da Jacob Coxon, en tidligere pretraining-forsker hos både OpenAI og Anthropic, sa opp offentlig. "Ingen av selskapene opptrer ansvarlig," skrev Coxon på X. "De kappløper rett mot selvforbedrende superintelligens og gambler med livene våre."ibtimes+1

Anthropic sin leder for alignment-vitenskap, Evan Hubinger, svarte deretter offentlig at Coxon hadde "rett" og at han personlig tror det er mer enn 10 prosent sjanse for at KI kan drepe alle mennesker i løpet av tiåret. "Vi har ennå ikke en plan for å løse alignment for superintelligens og er ikke tydelig på vei til å få det," skrev Hubinger.businessinsider+1

Et skarpt skille blant eksperter

Ikke alle forskere deler alarmismen. Gary Marcus, en KI-forsker, fortalte Business Insider at han ser på cyberangrep, biologiske våpen og desinformasjon som alvorlige risikoer, men anser ikke utryddelse som et realistisk utfall på kort sikt. "Det er noen svært alvorlige skader å bekymre seg for, men ingen realistisk scenario jeg er klar over for faktisk å 'drepe alle mennesker'," sa han. Meta ↗ 0.84% sin Yann LeCun har tidligere avfeid slike sannsynlighetsestimater som magefølelse — en karakterisering Hinton selv delvis har akseptert, og fortalt CNN at "alle som estimerer sannsynligheter slik, kommer egentlig bare med en vill gjetning".businessinsider+1

ITV-programleder Robert Peston la til sin stemme i debatten og skrev på X: "Jeg er litt overrasket over at det ikke har tiltrukket seg mer oppmerksomhet, inkludert fra innsiden av regjeringen."ladbible