Fei-Fei Li krever uavhengig tilsyn med AI-sikkerhet

Fei-Fei Li, AI-pioner og medgründer av World Labs, tok tirsdag til orde for strengere tilsyn med kunstig intelligens fra uavhengige og offentlige aktører. Hun argumenterer for at sikkerhetsvurderinger av stadig mer avanserte systemer ikke bør overlates utelukkende til selskapene som utvikler dem.bloomberg

I et intervju på Bloomberg TV sa Li at selv om forskere internt i AI-selskaper kan måle kraften og sikkerheten til individuelle modeller, er ikke dette en erstatning for bredere standarder utviklet av myndigheter, industri og akademiske institusjoner. Hun understreket at uavhengige referanseverdier, akademia, myndigheter og industrien alle har en rolle å spille i evalueringen av stadig kraftigere systemer.bloomberg+1

Et konsekvent budskap i et skiftende landskap

Lis uttalelser er i tråd med posisjonen hun har inntatt det siste året. Under Ai4-konferansen i Las Vegas i august deltok hun i en debatt om AI-risiko sammen med Geoffrey Hinton og Andrew Ng, hvor hun argumenterte for bransjespesifikk regulering og offentlige investeringer fremfor omfattende restriksjoner rettet kun mot AI. Hun har også oppfordret beslutningstakere til å oppdatere eksisterende regelverk innen helse, transport, finans og utdanning for å ta høyde for AI, fremfor å forsøke å "sette ånden tilbake i flasken".forbes+1

I en høring for Senatets komité for innenlandsk sikkerhet og statlige anliggender tidligere denne måneden, presset Li på for å avmystifisere AI, sikre bruken gjennom personvern- og rettferdighetstiltak, og investere i offentlig AI-forskning.hai.stanford

En bredere debatt om selvregulering

Oppfordringen kommer i en tid med økt fokus på om AI-bransjen er i stand til å regulere seg selv. Bare forrige uke rapporterte Forbes at Anthropic-sjef Dario Amodeis forslag om selvregulering, der selskaper selv velger sine eksterne kontrollører, ble kritisert for ikke å være tilstrekkelig. Kritikere sammenlignet ideen med å la flyselskaper velge sine egne sikkerhetsinspektører.forbes

Samtidig trer kravene for høyrisikosystemer i EUs AI-forordning i full kraft i august 2026, og flere amerikanske delstater har fremmet lovforslag som krever uavhengig revisjon av AI-systemer. NIST AI Agent Standards Initiative, som ble lansert tidligere i år, utvikler også standarder for autonome AI-agenter som opererer uten kontinuerlig menneskelig tilsyn.gunder+2

Li, som er administrerende direktør i World Labs og meddirektør for Stanfords Institute for Human-Centered AI, rammet inn problemstillingen som et spørsmål om å sikre at mennesker forblir i kontroll over AI-utviklingen. "AI sin fremtid handler om mennesker," sa hun i Bloomberg-intervjuet.bloomberg