„OpenAI“ leis išorės grupėms anksčiau vertinti DI modelius

„OpenAI“ antradienį paskelbė, kad leis išorės organizacijoms atlikti techninius savo DI modelių saugos vertinimus ankstesniuose mokymo, vertinimo ir diegimo etapuose. Tai žingsnis, kuriuo siekiama spręsti didėjantį susirūpinimą dėl galimos pažangiausių DI sistemų žalos.

„ChatGPT“ kūrėja apibrėžė prioritetus, kad šios peržiūros būtų veiksmingos, įskaitant „stiprius nepriklausomumo mechanizmus, mokslinį griežtumą, patikimą saugumo praktiką ir aiškią atsakomybę“, praneša „Bloomberg“. Šis pranešimas, paskelbtas įmonės tinklaraštyje, pasirodė laikotarpiu, kai DI pramonės saugos praktika yra itin atidžiai stebima.bloomberg

Saugumo pasiūlymų banga

Šis žingsnis žengtas po sparčios su saugumu susijusių pranešimų serijos iš pirmaujančių DI laboratorijų. Pirmadienį „OpenAI“ paskelbė atskirą pasiūlymų rinkinį, skirtą suderinamumo tyrimams ir skaičiavimo technikai, žinomai kaip rekursinis savęs tobulinimas (RSI), ragindama bendradarbiauti tarptautiniu mastu kuriant pažangiausius standartus. „Visiškai autonominis RSI šiandien nevyksta, ir mes neturėtume jo siekti, nebent ir kol tai bus galima padaryti saugiai“, – rašė įmonė.cnbc

Praėjusią savaitę konkurentė „Anthropic“ paskelbė savo pasiūlymus dėl saugesnio pažangiausių modelių kūrimo, po to, kai tyrėjas Jacobas Coxonas įžiebė pasaulines diskusijas atsistatydinęs iš įmonės ir įspėjęs, kad DI laboratorijos „lošia mūsų gyvybėmis“. „Anthropic“ generalinis direktorius Dario Amodei vėliau paragino DI įmones sulėtinti plėtros tempą ir pasiūlė į savo organizacijas įtraukti trečiųjų šalių vertintojus.explainx+1

Pasitikėjimo spraga išlieka

Nepaisant pažadų gausos, skeptikai abejoja, ar įmanoma prasminga priežiūra, esant tokiam pašėlusiam pramonės tempui. „Goldman Sachs“ ↗ 0.55% skaičiavimais, kuriuos cituoja „Axios“, per ateinančius penkerius metus DI plėtrai planuojama išleisti daugiau nei 7 trilijonus dolerių. Tiek „OpenAI“, tiek „Anthropic“ patiria spaudimą pateikti vis pajėgesnius modelius, ruošdamiesi viešiesiems siūlymams, kurių vertė siekia trilijonus dolerių.axios

Daugiau nei 100 DI vertintojų koalicija neseniai paragino pažangiausių modelių kūrėjus priimti „minimalias sąlygas“ nepriklausomiems auditams, įskaitant gilesnę prieigą ir apsaugą nuo atsakomųjų veiksmų už nepalankių išvadų paskelbimą. Danielis Kokotajlo, buvęs „OpenAI“ tyrėjas ir „AI Futures Project“ vykdomasis direktorius, „Axios“ sakė netikintis, kad DI galima saugiai plėsti, ir teigė, kad didžiausios įmonės turėtų vengti nukreipti savo didžiulius skaičiavimo išteklius modelių tobulinimui.cnbc+2

„Įmonės tiesiog išgyvena nuolatinį prieštaringų jausmų ir vidinių diskusijų procesą apie tai, ką mes darome“, – sakė Kokotajlo. „Ar turėtume sustoti? Ar mes esame geriečiai?“axios