Fei-Fei Li kallar eftir óháðu eftirliti með öryggi gervigreindar

Fei-Fei Li, brautryðjandi á sviði gervigreindar og annar stofnenda World Labs, kallaði á þriðjudag eftir auknu eftirliti með gervigreind af hálfu óháðra aðila og hins opinbera. Hún hélt því fram að öryggismat á sífellt öflugri kerfum ætti ekki að vera eingöngu í höndum þeirra fyrirtækja sem smíða þau.bloomberg

Í viðtali við Bloomberg TV sagði Li að þótt vísindamenn innan gervigreindarfyrirtækja geti mælt kraft og öryggiseiginleika einstakra líkana, þá komi það ekki í staðinn fyrir víðtækari staðla sem þróaðir eru af stjórnvöldum, iðnaði og fræðastofnunum. Hún lagði áherslu á að óháð viðmið, háskólar, stjórnvöld og iðnaðurinn eigi öll hlutverk í mati á sífellt öflugri kerfum.bloomberg+1

Samræmdur málflutningur í breyttu landslagi

Ummæli Li samræmast þeirri afstöðu sem hún hefur tekið undanfarið ár. Á Ai4 ráðstefnunni í Las Vegas í ágúst kom hún fram ásamt Geoffrey Hinton og Andrew Ng í umræðum um áhættu gervigreindar, þar sem hún mælti fyrir geirabundinni reglugerð og opinberum fjárfestingum frekar en víðtækum takmörkunum sem bundnar eru við gervigreind. Hún hefur einnig hvatt stjórnmálamenn til að uppfæra núverandi regluverk í heilbrigðis-, samgöngu-, fjármála- og menntamálum til að taka tillit til gervigreindar, í stað þess að reyna að "setja andann aftur í flöskuna".forbes+1

Í vitnisburði fyrir öryggis- og stjórnsýslunefnd öldungadeildar Bandaríkjaþings fyrr í mánuðinum lagði Li áherslu á að gera gervigreind skiljanlegri, tryggja örugga notkun hennar með persónuverndar- og sanngirnisráðstöfunum og fjárfesta í opinberum gervigreindarrannsóknum.hai.stanford

Víðtækari umræða um sjálfseftirlit

Kall hennar kemur á tíma aukinnar skoðunar á því hvort gervigreindariðnaðurinn geti haft eftirlit með sjálfum sér. Í síðustu viku greindi Forbes frá því að tillaga Dario Amodei, forstjóra Anthropic, um sjálfseftirlit, þar sem fyrirtæki myndu velja sína eigin ytri matsaðila, mætti gagnrýni fyrir að ganga ekki nógu langt. Gagnrýnendur líktu hugmyndinni við að leyfa flugfélögum að velja sína eigin öryggiseftirlitsmenn.forbes

Á sama tíma taka kröfur ESB um gervigreind (EU AI Act) um áhættusöm kerfi fullt gildi í ágúst 2026 og mörg ríki Bandaríkjanna hafa lagt fram löggjöf sem krefst óháðra úttekta á gervigreindarkerfum. NIST AI Agent Standards frumkvæðið, sem hleypt var af stokkunum fyrr á þessu ári, er einnig að þróa staðla fyrir sjálfstæð gervigreindarkerfi sem starfa án stöðugs eftirlits manna.gunder+2

Li, sem er forstjóri World Labs og meðstjórnandi Institute for Human-Centered AI við Stanford, setti málið fram sem spurningu um að tryggja að menn haldi stjórn á þróun gervigreindar. "Framtíð gervigreindar snýst um manneskjur," sagði hún í viðtalinu við Bloomberg.bloomberg