Fei-Fei Li vaatii tekoälyn turvallisuudelle riippumatonta valvontaa

Tekoälyn pioneeri ja World Labsin perustajajäsen Fei-Fei Li vaati tiistaina tekoälyn tiukempaa valvontaa riippumattomien ja julkisen sektorin toimijoiden taholta. Hän perusteli, että yhä kyvykkäämpien järjestelmien turvallisuusarviointeja ei tulisi jättää pelkästään niitä kehittävien yritysten vastuulle.bloomberg

Bloomberg TV:n haastattelussa Li totesi, että vaikka tekoälyyritysten tutkijat voivat mitata yksittäisten mallien tehoa ja turvallisuusominaisuuksia, se ei korvaa hallitusten, teollisuuden ja akateemisten instituutioiden kehittämiä laajempia standardeja. Hän korosti, että riippumattomilla vertailukohdilla, akateemisella maailmalla, hallituksella ja teollisuudella on kaikilla roolinsa yhä tehokkaampien järjestelmien arvioinnissa.bloomberg+1

Johdonmukainen viesti muuttuvassa ympäristössä

Lin huomautukset ovat linjassa hänen viimeisen vuoden aikana esittämiensä kantojen kanssa. Elokuussa Las Vegasin Ai4-konferenssissa hän osallistui tekoälyn riskejä koskevaan keskusteluun yhdessä Geoffrey Hintonin ja Andrew Ng:n kanssa. Siellä hän kannatti alakohtaista sääntelyä ja julkisia investointeja sen sijaan, että säädettäisiin laajoja, tekoälyä koskevia yleisrajoituksia. Hän on myös kehottanut päättäjiä päivittämään terveydenhuollon, liikenteen, rahoituksen ja koulutuksen nykyisiä sääntelykehyksiä tekoälyn huomioimiseksi sen sijaan, että yritettäisiin "laittaa henki takaisin pulloon".forbes+1

Senaatin kotimaan turvallisuuden ja hallinnollisten asioiden komitean kuulemisessa aiemmin tässä kuussa Li painotti tarvetta purkaa tekoälyn mystiikkaa, turvata sen käyttö yksityisyyden ja oikeudenmukaisuuden keinoin sekä investoida julkiseen tekoälytutkimukseen.hai.stanford

Laajempi keskustelu itsesääntelystä

Lin vaatimus tulee aikana, jolloin tekoälyteollisuuden kykyä valvoa itseään tarkastellaan yhä kriittisemmin. Viime viikolla Forbes raportoi, että Anthropicin toimitusjohtajan Dario Amodein ehdotus itsesääntelystä, jossa yritykset valitsisivat itse ulkopuoliset arvioijansa, sai osakseen kritiikkiä riittämättömyydestään. Kriitikot vertasivat ajatusta siihen, että lentoyhtiöiden annettaisiin valita omat turvallisuustarkastajansa.forbes

Samaan aikaan EU:n tekoälysäädöksen korkean riskin järjestelmiä koskevat vaatimukset astuvat täysimääräisesti voimaan elokuussa 2026, ja useat Yhdysvaltain osavaltiot ovat esittäneet lainsäädäntöä, joka vaatii tekoälyjärjestelmien riippumattomia auditointeja. NIST:n tekoälyagenttien standardointialoite, joka käynnistettiin aiemmin tänä vuonna, kehittää myös standardeja autonomisille tekoälyagenteille, jotka toimivat ilman jatkuvaa ihmisen valvontaa.gunder+2

Li, joka toimii World Labsin toimitusjohtajana ja Stanfordin ihmiskeskeisen tekoälyn instituutin johtajana, kehysti asian kysymykseksi siitä, miten varmistetaan ihmisten säilyvän tekoälyn kehityksen ohjaksissa. "Tekoälyn tulevaisuus liittyy ihmisiin", hän sanoi Bloombergin haastattelussa.bloomberg