Google færir teymi um öryggi gervigreindar út úr DeepMind

Google Alphabet Inc. ↘ 1.11% er að flytja um 90 manna teymi sitt um ábyrga gervigreind út úr Google DeepMind og yfir í deild sína fyrir alþjóðamál, sem hefur umsjón með hagsmunagæslu og opinberri stefnumótun, samkvæmt innri tölvupósti sem The Wall Street Journal News Corp ↗ 1.52% hefur séð. Breytingin, sem tekur gildi í byrjun september, hefur vakið áhyggjur meðal starfsmanna um að sjálfstæði teymisins og geta þess til að bera kennsl á áhættu í nýjustu gervigreindarlíkönum muni minnka.wsj

Endurskipulagning í kjölfar breytinga á stjórnendum

Endurskipulagningin fylgir í kjölfar víðtækra breytinga hjá DeepMind þar sem stofnandinn og forstjórinn Demis Hassabis vék úr starfi og tók við nýju hlutverki sem stjórnarformaður. Sumir meðlimir teymisins um ábyrga gervigreind hafa lýst yfir áhyggjum af því að breytingin á skipulagi muni hafa neikvæð áhrif á vinnu þeirra, samkvæmt tveimur núverandi starfsmönnum DeepMind sem Journal vitnar í.moomoo+1

Siðfræðiteymið hefur einbeitt sér að því að meta áhættu af nýjustu gervigreind, þar á meðal að meta efnafræðilegar, líffræðilegar, geislavirkar og kjarnorkutengdar hættur við prófun líkana, auk þess að skoða sálfræðileg áhrif samskipta notenda við gervigreindaspjallmenni. Starfsmenn óttast að það að flytja teymið frá þróunarhópi Gemini-líkansins gæti grafið undan getu þess til að stunda óháðar rannsóknir og vara við vaxandi ógnum í háþróuðum líkönum.moomoo

Google segir aðganginn haldast

Google hefur haldið því fram að teymið muni halda aðgangi að auðlindum, tölvuafl og starfsfólki DeepMind, á meðan aðrir hópar sem bera ábyrgð á hegðun líkana, persónuvernd og öryggi verða áfram innan DeepMind. Endurskipulagningin er hluti af víðtækari samþættingu DeepMind inn í fyrirtækjaskipulag Google, þar sem tengd mannauðs- og stefnumótunarteymi eru einnig flutt út úr rannsóknarstofunni.moomoo

Flutningurinn kemur í kjölfar stöðugra breytinga á stjórnendum og starfsmannaveltu hjá DeepMind, sem vekur víðtækari spurningar um hvernig stórar gervigreindarstofur jafnvægi hraða þróun öflugra líkana á móti innra eftirliti sem ætlað er að grípa hugsanlegan skaða áður en tækni er tekin í notkun.