Hinton telur 10% líkur á að gervigreind útrými mannkyni ekki óraunhæfar

Nóbelsverðlaunahafinn og tölvunarfræðingurinn Geoffrey Hinton sagði í viðtali við BBC Newsnight á þriðjudag að 10% líkur á að gervigreind útrými mannkyni innan næsta áratugar „virðist ekki óraunhæft mat,“ ummæli sem komu umsjónarmanninum Victoriu Derbyshire greinilega í opna skjöldu.ndtvprofit+1

„Við höfum aldrei skapað verur sem gætu fljótlega orðið gáfaðri en við. Við vitum ekki hvað mun gerast,“ sagði Hinton þegar Derbyshire spurði hvort talan væri trúverðug. „10% líkur virðast mér ekki óraunhæft mat. En enginn veit í raun hvernig á að gefa skynsamlegt mat.“ Þegar Derbyshire endurtók orð hans svaraði Hinton með einu orði: „Já.“ Viðbrögð hennar — „Vá… ó guð minn góður“ — fóru hratt um netið.ndtv+1

Hvernig gervigreind gæti valdið eyðileggingu

Hinton, sem hlaut Nóbelsverðlaunin í eðlisfræði 2024 fyrir vinnu sína við vélrænt nám, sagði að háþróuð gervigreind þyrfti ekki líkamlega stjórn á heiminum til að ógna tilvist mannkyns. „Hún gæti valdið algjörri ringulreið bara með því að tala við fólk,“ sagði hann. „En hún gæti líka hannað mjög ógeðfellda vírusa — líffræðilega vírusa — auk tölvuvírusa. Hún gæti framið hrikalegar netárásir.“ Hann bætti við að það væri „mjög heimskulegt“ að gera ráð fyrir að áhættan væri aðeins 1%.ndtvprofit+1

Stuart Russell, prófessor við UC Berkeley, tók undir þessar áhyggjur og sagði við Business Insider að gervigreind eða aðilar sem nýta sér gervigreind gætu ráðist á mikilvæga innviði, þar á meðal raforku-, vatns-, samgöngu- og fjármálakerfi.businessinsider

Uppsagnirnar hjá Anthropic sem kveiktu umræðuna

Viðtal Hintons fylgdi í kjölfar atburðarásar sem hófst 8. september þegar Jacob Coxon, fyrrverandi rannsakandi hjá bæði OpenAI og Anthropic, sagði upp störfum opinberlega. „Hvort fyrirtækið um sig bregst ekki við af ábyrgð,“ skrifaði Coxon á X. „Þau keppast beint að sjálfbætandi ofurgreind og tefla lífi okkar í hættu.“ibtimes+1

Evan Hubinger, yfirmaður samræmingarvísinda hjá Anthropic, svaraði opinberlega að Coxon hefði „rétt fyrir sér“ og að hann teldi persónulega að það væru meira en 10% líkur á að gervigreind gæti útrýmt mannkyni innan áratugar. „Við höfum ekki enn áætlun um hvernig eigi að leysa samræmingu fyrir ofurgreind og erum ekki greinilega á réttri leið,“ skrifaði Hubinger.businessinsider+1

Skörp skipting meðal sérfræðinga

Ekki eru allir rannsakendur á sama máli. Gary Marcus, gervigreindarrannsakandi, sagði við Business Insider að hann telji netárásir, líffræðileg vopn og upplýsingaóreiðu vera alvarlegar ógnir en telji útrýmingu ekki raunhæfa skammtímaafleiðingu. „Það eru mjög alvarlegar hættur sem þarf að hafa áhyggjur af, en engin raunhæf atburðarás sem ég þekki til þess að „útrýma öllu mannkyni,“ sagði hann. Yann LeCun hjá Meta ↗ 0.84% hefur áður vísað slíku líkindamati á bug sem tilfinningaákvörðunum — lýsing sem Hinton hefur að hluta til samþykkt sjálfur og sagt við CNN að „hver sá sem metur líkur á þennan hátt sé í raun bara að giska út í loftið“.businessinsider+1

Robert Peston, umsjónarmaður hjá ITV, bætti rödd sinni við umræðuna og skrifaði á X: „Ég er dálítið undrandi á því að þetta hafi ekki vakið meiri athygli, þar á meðal innan ríkisstjórnarinnar.“ladbible