Hassabis lagði fram áætlun um eftirlit með gervigreind fyrir brotthvarf frá DeepMind

Í vikunum fyrir 5. ágúst, þegar Alphabet ↘ 0.18% tilkynnti um miklar stjórnendabreytingar hjá Google DeepMind, vann Demis Hassabis leynt að tillögu um óháða stofnun sem ætti að hafa eftirlit með þróun gervigreindar, samkvæmt The Wall Street Journal News Corp ↗ 0.03%.wsj

Hassabis ræddi við forsvarsmenn keppinauta í gervigreindargeiranum og embættismenn í ríkisstjórn Trump, þar á meðal Scott Bessent fjármálaráðherra, um að stofna samtök sem byggðu á fyrirmynd Financial Industry Regulatory Authority (FINRA), sem hefur eftirlit með verðbréfamiðlurum á Wall Street. Tillagan gerir ráð fyrir að stjórn óháðra tæknisérfræðinga fari yfir nýjustu gervigreindarlíkön allt að 30 dögum fyrir útgáfu, þar sem stofnunin væri ábyrg gagnvart alríkisstjórninni en starfaði á einkareknum grundvelli.claimsjournal+3

Tillagan

Hassabis birti ramma sinn opinberlega þann 14. júlí og kallaði hann "Frontier AI Standards Body". Áætlunin gerir ráð fyrir að leiðandi rannsóknarstofur leggi líkön sín sjálfviljugar fram til öryggisprófana fyrir útgáfu, og að iðnaðurinn sjálfur fjármagni stofnunina, líkt og FINRA er fjármögnuð af þeim aðilum sem hún hefur eftirlit með. Samkvæmt Fortune hjálpaði Bessent við að þróa tillöguna, sem var til skoðunar hjá Susie Wiles, starfsmannastjóra Hvíta hússins.digitalapplied+3

The Washington Post lýsti frumkvæðinu sem eins konar "sjálfseftirliti gervigreindar" með "hljóðlátri hvatningu til stjórnvalda um að gera meira síðar". Bloomberg greindi frá því í júlí að ríkisstjórn Trump væri virkir að íhuga áætlunina eftir að leiðtogar í Sílikondal kvörtuðu yfir óskipulegum vinnubrögðum við stjórnun gervigreindarkerfa.washingtonpost+1

Stjórnendabreytingar

Þann 5. ágúst tilkynnti Alphabet að Hassabis myndi láta af störfum sem forstjóri Google DeepMind til að verða stjórnarformaður einingarinnar og yfirvísindamaður Alphabet, sem markar breytingu frá daglegum rekstri yfir í stefnumótun um AGI og vísindarannsóknir. Koray Kavukcuoglu, tæknistjóri DeepMind, tók við daglegum rekstri sem aðstoðarforstjóri og heyrir beint undir Sundar Pichai forstjóra.axios+2

Í breytingunum yfirgáfu einnig reyndir verkfræðingar á borð við Jeff Dean og nokkrir aðrir áberandi leiðtogar í gervigreind, þar á meðal Sanjay Ghemawat, Oriol Vinyals og Quoc Le, Google til að stofna sprotafyrirtækið Discovery Loop.reuters+1

Öryggi í samkeppni

Tímasetningin á þrýstingi Hassabis um reglugerðir samhliða því að hann dregur sig úr rekstri vekur spurningar um hvort þessir tveir atburðir tengist. Í samtölum við samstarfsmenn líkti Hassabis fyrirhugaðri stofnun við Alþjóðakjarnorkumálastofnunina (IAEA) og lýsti henni sem samstarfsvettvangi frekar en refsivönd. Nýtt hlutverk hans sem yfirvísindamaður Alphabet og stjórnarformaður DeepMind gerir honum kleift að halda áfram að beita sér fyrir stöðlunum án þess að þurfa að sinna daglegum rekstri einnar stærstu gervigreindarstofu heims.cnbc+1