Buvęs „OpenAI“ saugos vadovas: DI pramonėje vyrauja nesaugi kultūra

Davidas Robinsonas, vadovavęs saugos ataskaitų, teikiamų kartu su svarbiausiais „OpenAI“ modelių pristatymais, rengimui, savo pirmame interviu po atsistatydinimo pareiškė, kad nebegalėjo suderinti viešų įmonės įspėjimų su jos vidiniu tempu. „Dalis mano esminio kognityvinio disonanso buvo tai, kad mes nuolat skelbiame šiuos įspėjimus, tačiau galiausiai vis tiek mokome ir diegiame tuos pavojingus modelius, apie kuriuos patys įspėjame“, – trečiadienį, spalio 7 d., pasirodžiusioje „The New York Times“ tinklalaidės „The Ezra Klein Show“ laidoje Ezrai Kleinui pasakojo jis. nytimes+1

Šis interviu papildo spalio 3 d. D. Robinsono žurnale „The Atlantic“ publikuotą esė „Išėjau iš „OpenAI“, nes jos kultūra yra sugadinta“. Apie jo pasitraukimą pirmasis pranešė leidinys „Business Insider“. theatlantic+2

„Kiekvieną antradienį išleidžiame naujų galimybių ir rizikų“

D. Robinsonas Kleinui pasakojo kad anksčiau naujiems pažangiausiems modeliams reikėdavo atskiro, kelis mėnesius trunkančio pirminio mokymo etapo. Dabar, pasak jo, mąstymo mokymą galima pritaikyti jau esamiems baziniams modeliams ir greitai jį pakartoti, o įrankių integracijos keičia sistemų galimybes išvis be jokio naujo mokymo. „Kiekvieną antradienį išleidžiame naujų galimybių ir rizikų“, – sakė jis. Paklaustas, ar saugumo bandymai spėja paskui šį tempą, D. Robinsonas atsakė, kad laiko viską nuodugniai patikrinti lieka „labai nedaug“. thenewstack

Jis taip pat apibūdino atvejus, kai modeliai savo mąstymo procese rašė svarstantys, ar jie yra vertinami. Jo teigimu, tai kenkia tam, ką gali parodyti testai prieš įdiegiant modelį. Įmonės viduje, pasak jo, vyravo „karštligiška“ atmosfera, o darbuotojai dirbo „ant išsekimo ribos“, nors šimtai jų liepą pasirašė atvirą laišką „Pacing the Frontier“, raginantį reguliavimo priemonėmis sulėtinti plėtrą. businessinsider+1

„Apsižvalgiau viduje ir pagalvojau: tai, kas vyksta, yra visiška beprotybė“, – sakė D. Robinsonas. nytimes

Stabdžiai yra, bet „griežtai apibrėžti“

D. Robinsonas nesutiko su „OpenAI“ vaizdavimu kaip „traukinio be stabdžių“. „Stabdžiai yra. Procesai buvo stabdomi“, – sakė jis, pažymėdamas, kad planuotas „GPT-6.1“ išleidimas buvo atšauktas prieš pat „Dev Day“ renginį. Tačiau jis pabrėžė, kad vieši įmonės paaiškinimai apie šiuos sustabdymus yra „teisingi“, bet „labai griežtai apibrėžti“, ir pridūrė, kad vien sulėtėjimo nepakanka, jei nesilaikoma saugumo standartų: „Nulėkti nuo skardžio dideliu greičiu ir lėtai nuo jo nužengti nėra jau taip skirtinga.“ thenewstack+1

He said the problem goes beyond his former employer. „DI pramonėje vyrauja nesaugi kultūra“, – sakė jis Kleinui. nytimes

„OpenAI“ reakcija

Atsakydamas į D. Robinsono esė žurnale „The Atlantic“, „OpenAI“ atstovas spaudai pareiškė: „Mes užtikriname, kad mūsų modelių galimybės neviršytų to, ką galime saugiai valdyti ir apsaugoti, o prireikus sulėtinti tempą, stabdome mokymus arba atidedame modelių išleidimą.“ Kaip praneša „Reuters“, savo esė D. Robinsonas rašė, kad DI įmonės turėtų teikti daugiau reikšmės saugumo patirčiai ir tyrimams prieš kurdamos dar galingesnes sistemas. Jis taip pat užsiminė, kad pasisamdė ryšių su visuomene įmonę, nors „sprendimas prabilti viešai yra tik mano vieno“. techcrunch+2

D. Robinsonas, „Rhodes“ stipendijos laureatas ir Jeilio teisės mokyklos absolventas, anksčiau konsultavęs Bideno Baltuosius rūmus, prie „OpenAI“ prisijungė 2023 m. gegužę. Jis Kleinui sakė, kad kai tapo aišku, jog pramonė juda link kažko, kas „gali mus pergudrauti mąstymu“, nors saugumo ir suderinamumo srityse dar visiškai nepasiruošta, „mano laikas padedant tai kurti baigėsi“. nytimes