Fei-Fei Li volá po nezávislém dohledu nad bezpečností AI

Průkopnice v oblasti AI a spoluzakladatelka World Labs Fei-Fei Li v úterý vyzvala k přísnějšímu dohledu nad umělou inteligencí ze strany nezávislých a veřejných subjektů. Argumentovala tím, že bezpečnostní posouzení stále schopnějších systémů by neměla být ponechána výhradně na firmách, které je vyvíjejí.bloomberg

V rozhovoru pro Bloomberg TV Li uvedla, že ačkoliv výzkumníci uvnitř firem zabývajících se AI mohou měřit výkon a bezpečnostní parametry jednotlivých modelů, nenahrazuje to širší standardy vyvíjené vládami, průmyslem a akademickými institucemi. Zdůraznila, že nezávislé benchmarky, akademická obec, vláda i průmysl mají svou roli při hodnocení stále výkonnějších systémů.bloomberg+1

Konzistentní poselství v měnícím se prostředí

Poznámky Li jsou v souladu s postojem, který zastává již poslední rok. V srpnu na konferenci Ai4 v Las Vegas vystoupila po boku Geoffreyho Hintona a Andrewa Ng v debatě o rizicích AI, kde se zasazovala o sektorově specifickou regulaci a veřejné investice namísto plošných omezení zaměřených pouze na AI. Rovněž vyzvala zákonodárce, aby aktualizovali stávající regulační rámce ve zdravotnictví, dopravě, financích a školství tak, aby zohledňovaly AI, místo aby se pokoušeli „vrátit džina do láhve“.forbes+1

Ve svědectví před senátním výborem pro vnitřní bezpečnost a vládní záležitosti začátkem tohoto měsíce Li naléhala na demystifikaci AI, zajištění jejího bezpečného používání pomocí opatření na ochranu soukromí a spravedlnosti a na investice do veřejného výzkumu AI.hai.stanford

Širší debata o samoregulaci

Její výzva přichází v době zesílené kontroly nad tím, zda se průmysl AI dokáže regulovat sám. Právě minulý týden Forbes informoval, že návrh generálního ředitele Anthropic Daria Amodeiho na samoregulaci, v němž by si firmy samy vybíraly externí hodnotitele, vyvolal kritiku, že není dostatečně důsledný. Kritici tento nápad přirovnali k tomu, kdyby si letecké společnosti samy vybíraly své bezpečnostní inspektory.forbes

Mezitím požadavky Aktu EU o umělé inteligenci pro vysoce rizikové systémy plně vstoupí v platnost v srpnu 2026 a několik států USA zavedlo legislativu vyžadující nezávislé audity systémů AI. Iniciativa NIST AI Agent Standards, spuštěná začátkem tohoto roku, rovněž vyvíjí standardy pro autonomní agenty AI, kteří fungují bez neustálého lidského dohledu.gunder+2

Li, která působí jako generální ředitelka World Labs a spolureeditelka Stanfordova institutu pro AI zaměřenou na člověka, zarámovala problém jako otázku zajištění toho, aby lidé zůstali pod kontrolou trajektorie AI. „Budoucnost AI je o lidech,“ řekla v rozhovoru pro Bloomberg.bloomberg