Fyrrverandi DeepMind-vísindamaður segir gervigreind þróast of hratt

Alex Turner, fyrrverandi vísindamaður hjá DeepMind-deild Google Alphabet Inc. ↘ 1.24%, kom fram í viðtali hjá Bloomberg á mánudag og hélt því fram að hraði gervigreindarþróunar væri orðinn meiri en geta stjórnvalda, fyrirtækja og stórvelda til að stýra áhættunni. Ummæli hans koma í kjölfar fjölda kalla frá leiðtogum í tæknigeiranum um að hægja á örri þróun tækninnar.

Vaxandi rödd gagnrýnanda

Turner sagði upp störfum hjá Google DeepMind í júní eftir að fyrirtækið undirritaði samning sem heimilar Pentagon að nota gervigreind þeirra í leynileg verkefni, samningur sem hann sagði skorta bindandi takmarkanir gegn sjálfstýrðum vopnum eða fjöldaeftirliti. Síðan þá hefur hann orðið einn helsti gagnrýnandi þróunar gervigreindar. Í viðtali við CNBC í síðustu viku sagðist hann hafa áhyggjur af útrýmingarhættu vegna tækninnar.cnbc+2

Í viðtalinu á mánudag benti Turner á endurkvæma sjálfsbætingu, það er getu gervigreindarkerfa til að bæta eigin getu, sem helstu ógnina og varaði við því að hún gæti fljótt skapað greind sem væri umfram skilning manna. Hann benti einnig á eftirlit með tölvuaflsnotkun sem raunhæfa leið til reglusetningar, þar sem eftirlit með gríðarlegu vinnsluafli sem þarf til að þjálfa öflugustu líkönin gæti gefið stjórnvöldum leið til að setja mörk. Turner viðurkenndi að nýlegar kröfur tæknirisanna um að hægja á sér gætu verið bæði einlægar og stefnumótandi til að tryggja sér yfirburði.bloomberg

Iðnaðurinn kallar eftir hægari ferð

Viðvaranir Turner koma á mikilvægum tíma fyrir umræðuna um öryggi gervigreindar. Á laugardag birti Dario Amodei, forstjóri Anthropic, 3.800 orða ritgerð þar sem hann hvatti rannsóknarstofur til að hægja viljandi á framförum svo rannsóknir á öryggi geti fylgt eftir. Sam Altman, forstjóri OpenAI, og Elon Musk studdu skilaboðin opinberlega. Demis Hassabis, sem stýrir Google DeepMind, lýsti einnig yfir samþykki.cnbc+1

Amodei setti fram þriggja þrepa áætlun: að fella óháða matsaðila inn í rannsóknarstofur, samræma öryggisstaðla milli lýðræðisríkja og að lokum útvíkka þá samninga á heimsvísu, þar með talið til Kína. Á mánudag hafði þó engin keppinautastofa fylgt eftir loforði Anthropic um að veita utanaðkomandi endurskoðendum aðgang á starfsmannastigi.shattered

Kína-vandamálið

Landfræðilegir þættir vega þungt. Amodei kallaði Kína erfiðustu áskorunina fyrir allar tillögur um að hægja á þróun og viðurkenndi hættuna á því að einhliða aðhald vestrænna rannsóknarstofa gæti fært Peking forskot. Turner, í samskiptum á samfélagsmiðlum, andmælti David Sacks, gervigreindarráðgjafa Trump-stjórnarinnar, sem hafnaði kröfum um hægari þróun sem tilraun til að hefta samkeppni. Turner skrifaði í grein í Guardian á sunnudag að lausnin væri einföld: að koma í veg fyrir að fyrirtæki geri gervigreind kleift að bæta sig sjálf umfram stjórnanlegt greindarstig.politomix+3