Fei-Fei Li ragina užtikrinti nepriklausomą dirbtinio intelekto saugos priežiūrą

DI pionierė ir „World Labs“ įkūrėja Fei-Fei Li antradienį paragino griežčiau prižiūrėti dirbtinį intelektą per nepriklausomus ir viešojo sektoriaus subjektus, teigdama, kad vis galingesnių sistemų saugos vertinimai neturėtų būti palikti tik jas kuriančioms įmonėms.bloomberg

Kalbėdama per „Bloomberg TV“, Li sakė, kad nors DI įmonių tyrėjai gali išmatuoti atskirų modelių galią ir saugumo savybes, tai nepakeičia platesnių standartų, kuriuos kuria vyriausybės, pramonė ir akademinės institucijos. Ji teigė, kad nepriklausomi etalonai, akademinė bendruomenė, vyriausybė ir pramonė turi atlikti savo vaidmenį vertinant vis galingesnes sistemas.bloomberg+1

Nuosekli žinutė besikeičiančiame kraštovaizdyje

Li pastabos atitinka poziciją, kurią ji išsakė per pastaruosius metus. Rugpjūčio mėnesį Las Vegase vykusioje „Ai4“ konferencijoje ji kartu su Geoffrey Hintonu ir Andrew Ng dalyvavo diskusijoje apie DI riziką, kurioje pasisakė už sektoriui specifinį reguliavimą ir viešąsias investicijas, o ne už plačius, tik DI skirtus apribojimus. Ji taip pat ragino politikos formuotojus atnaujinti esamas reguliavimo sistemas sveikatos priežiūros, transporto, finansų ir švietimo srityse, kad būtų atsižvelgta į DI, užuot bandžius „grąžinti džiną į butelį“.forbes+1

Anksčiau šį mėnesį duodama parodymus Senato Tėvynės saugumo ir vyriausybės reikalų komitete, Li ragino demistifikuoti DI, apsaugoti jo naudojimą privatumo ir sąžiningumo priemonėmis bei investuoti į viešuosius DI tyrimus.hai.stanford

Platesnės diskusijos apie savireguliavimą

Jos raginimas pasigirdo tuo metu, kai vis labiau abejojama, ar DI pramonė gali pati save kontroliuoti. Vos praėjusią savaitę „Forbes“ pranešė, kad „Anthropic“ generalinio direktoriaus Dario Amodei pasiūlymas dėl savireguliavimo, pagal kurį įmonės pačios rinktųsi išorinius vertintojus, sulaukė kritikos, kad jis nėra pakankamai griežtas. Kritikai šią idėją palygino su leidimu oro linijoms pačioms rinktis savo saugos inspektorius.forbes

Tuo tarpu ES DI akto reikalavimai didelės rizikos sistemoms įsigalios 2026 m. rugpjūčio mėn., o kelios JAV valstijos pristatė teisės aktus, reikalaujančius nepriklausomo DI sistemų audito. NIST DI agentų standartų iniciatyva, pradėta anksčiau šiais metais, taip pat kuria standartus autonominiams DI agentams, kurie veikia be nuolatinės žmogaus priežiūros.gunder+2

Li, kuri vadovauja „World Labs“ ir yra Stanfordo Žmogaus centrinio DI instituto bendradarbė, šią problemą apibūdino kaip būtinybę užtikrinti, kad žmonės išlaikytų DI trajektorijos kontrolę. „DI ateitis yra susijusi su žmonėmis“, – sakė ji interviu „Bloomberg“.bloomberg