Fei-Fei Li kräver oberoende tillsyn av AI-säkerhet

Fei-Fei Li, AI-pionjär och medgrundare av World Labs, krävde på tisdagen en utökad tillsyn av artificiell intelligens från oberoende och offentliga organ. Hon menar att säkerhetsbedömningar av alltmer kapabla system inte bör lämnas enbart till de företag som bygger dem.bloomberg

I en intervju med Bloomberg TV sade Li att även om forskare inom AI-företag kan mäta kraften och säkerhetsegenskaperna hos enskilda modeller, är det ingen ersättning för bredare standarder utvecklade av regeringar, industri och akademiska institutioner. Hon argumenterade för att oberoende riktmärken, akademin, staten och industrin alla har roller att spela i utvärderingen av allt kraftfullare system.bloomberg+1

Ett konsekvent budskap i ett föränderligt landskap

Lis uttalanden ligger i linje med den hållning hon intagit under det senaste året. Vid Ai4-konferensen i Las Vegas i augusti deltog hon i en debatt om AI-risker tillsammans med Geoffrey Hinton och Andrew Ng, där hon förespråkade sektorspecifik reglering och offentliga investeringar snarare än svepande restriktioner för AI. Hon har även uppmanat beslutsfattare att uppdatera befintliga regelverk inom hälso- och sjukvård, transport, finans och utbildning för att hantera AI, istället för att försöka "stoppa tillbaka anden i flaskan".forbes+1

I ett vittnesmål inför senatens utskott för inrikes säkerhet tidigare denna månad betonade Li vikten av att avmystifiera AI, säkra dess användning med integritets- och rättvisemått, samt investera i offentlig AI-forskning.hai.stanford

En bredare debatt om självreglering

Hennes uppmaning kommer vid en tidpunkt då granskningen av huruvida AI-industrin kan reglera sig själv intensifieras. Bara förra veckan rapporterade Forbes att Anthropic-vd:n Dario Amodeis förslag om självreglering, där företag själva väljer sina externa granskare, mötte kritik för att inte vara tillräckligt långtgående. Kritiker jämförde idén med att låta flygbolag välja sina egna säkerhetsinspektörer.forbes

Samtidigt träder kraven för högrisk-system i EU:s AI-förordning i full kraft i augusti 2026, och flera amerikanska delstater har lagt fram lagförslag som kräver oberoende revisioner av AI-system. NIST AI Agent Standards Initiative, som lanserades tidigare i år, utvecklar också standarder för autonoma AI-agenter som opererar utan kontinuerlig mänsklig tillsyn.gunder+2

Li, som är vd för World Labs och meddirektör för Stanfords Institute for Human-Centered AI, beskrev frågan som en kamp för att säkerställa att människor förblir i kontroll över AI-utvecklingens riktning. "AI:s framtid handlar om människor", sade hon i Bloomberg-intervjun.bloomberg