Hassabis ajoi tekoälyn valvontasuunnitelmaa ennen DeepMind-lähtöään

Viikkoja ennen kuin Alphabet ↘ 3.58% ilmoitti laajasta johtajiston uudelleenjärjestelystä Google DeepMindissa 5. elokuuta, Demis Hassabis työskenteli hiljaa mallien kehitystä laajemman asian parissa: ehdotuksen riippumattomasta elimestä huipputason tekoälyn valvomiseksi, kertoo The Wall Street Journal News Corp ↘ 3.58%.wsj

Hassabis keskusteli kilpailevien tekoälylaboratorioiden johtajien ja Trumpin hallinnon virkamiesten, mukaan lukien valtiovarainministeri Scott Bessentin, kanssa Yhdysvaltain johtaman ja teollisuuden rahoittaman standardointijärjestön luomisesta. Se mallinnettiin Financial Industry Regulatory Authorityn (FINRA) mukaan, joka on Wall Streetin välittäjiä valvova yksityinen elin. Ehdotus vaatii riippumattomien teknisten asiantuntijoiden lautakuntaa tarkastamaan huipputason tekoälymallit jopa 30 päivää ennen julkista julkaisua, jolloin elin olisi vastuussa liittovaltion hallitukselle, mutta pysyisi yksityisesti johdettuna.claimsjournal+3

Ehdotus

Hassabis julkaisi viitekehyksensä julkisesti 14. heinäkuuta ja kutsui sitä "Frontier AI Standards Bodyksi". Suunnitelman mukaan huipputason laboratoriot toimittaisivat vapaaehtoisesti tehokkaimmat mallinsa turvallisuustestaukseen ennen julkaisua, ja laboratoriot itse rahoittaisivat organisaation, mikä heijastaa tapaa, jolla FINRA rahoitetaan sen sääntelemien välittäjien toimesta. Fortunen mukaan Bessent auttoi kehittämään ehdotusta, jota Valkoisen talon kansliapäällikkö Susie Wiles tarkasteli.digitalapplied+3

The Washington Post kuvaili aloitetta eräänlaiseksi "tekoälyn itsesääntelyksi", johon sisältyi "hiljainen kutsu hallitukselle tehdä lopulta enemmän". Bloomberg raportoi heinäkuussa, että Trumpin hallinto harkitsi suunnitelmaa aktiivisesti sen jälkeen, kun Piilaakson johtajat valittivat Yhdysvaltojen viimeaikaisista ad-hoc-toimista huipputason tekoälyjärjestelmien hallitsemiseksi.washingtonpost+1

Johtajiston uudelleenjärjestely

Alphabet ilmoitti 5. elokuuta, että Hassabis jättää Google DeepMindin toimitusjohtajan tehtävät ja siirtyy yksikön puheenjohtajaksi sekä Alphabetin päätutkijaksi. Tämä siirtää hänet pois päivittäisestä johtamisesta kohti AGI-strategiaa ja tieteellistä tutkimusta. DeepMindin teknologiajohtaja Koray Kavukcuoglu otti päivittäiset toiminnot hoitaakseen varatoimitusjohtajana, raportoiden suoraan toimitusjohtaja Sundar Pichaille.axios+2

Uudelleenjärjestelyssä myös kokenut insinööri Jeff Dean ja useat muut merkittävät tekoälyjohtajat, kuten Sanjay Ghemawat, Oriol Vinyals ja Quoc Le, lähtivät Googlesta perustaakseen Discovery Loop -nimisen startupin.reuters+1

Turvallisuus kilpailun keskellä

Hassabisin sääntelyaloitteen ajoitus yhdessä hänen operatiivisista tehtävistään luopumisen kanssa herättää kysymyksiä siitä, liittyvätkö nämä kaksi kehityskulkua toisiinsa. Keskusteluissa kollegoidensa kanssa Hassabis vertasi visioimaansa organisaatiota Kansainväliseen atomienergiajärjestöön ja kuvaili sitä yhteistyöelimeksi pikemminkin kuin rankaisevaksi sääntelijäksi. Hänen uusi roolinsa Alphabetin päätutkijana ja DeepMindin puheenjohtajana mahdollistaa standardointielimen ajamisen ilman yhden maailman suurimmista tekoälylaboratorioista johtamisen operatiivisia vaatimuksia.cnbc+1