OpenAI leyfir utanaðkomandi aðilum að meta gervigreindarlíkön fyrr

OpenAI tilkynnti á þriðjudag að fyrirtækið muni leyfa utanaðkomandi samtökum að framkvæma tæknilegt öryggismat á gervigreindarlíkönum sínum á fyrri stigum þjálfunar, mats og útgáfu. Þetta er skref sem miðar að því að bregðast við vaxandi áhyggjum af hugsanlegum skaða af völdum fremstu gervigreindarkerfa.

Framleiðandi ChatGPT lýsti forgangsröðun fyrir þessar úttektir til að þær virki á áhrifaríkan hátt, þar á meðal "sterka sjálfstæðiskerfi, vísindalega nákvæmni, öfluga öryggishætti og skýra ábyrgð," samkvæmt Bloomberg. Tilkynningin, sem birt var í bloggfærslu fyrirtækisins, kemur á tímabili mikillar skoðunar á öryggisháttum gervigreindariðnaðarins.bloomberg

Bylgja öryggistillagna

Skrefið kemur í kjölfar hraðrar röðar öryggistengdra tilkynninga frá leiðandi gervigreindarstofum. Á mánudag birti OpenAI sérstakan lista yfir tillögur sem beinast að samræmingarrannsóknum og tölvutækni sem þekkt er sem endurkvæm sjálfsbót, eða RSI, þar sem kallað er eftir alþjóðlegri samvinnu um að þróa staðla fyrir fremstu tækni. "Fullkomlega sjálfstæð RSI er ekki að gerast í dag og við ættum ekki að stunda hana nema og þar til hægt er að gera það á öruggan hátt," skrifaði fyrirtækið.cnbc

Í síðustu viku birti keppinauturinn Anthropic sínar eigin tillögur um öruggari þróun fremstu líkana, eftir að rannsakandinn Jacob Coxon hóf alþjóðlega umræðu með því að segja upp störfum hjá fyrirtækinu og vara við því að gervigreindarstofur væru að "tefla í tvísýnu með líf okkar". Dario Amodei, forstjóri Anthropic, kallaði í kjölfarið eftir því að gervigreindarfyrirtæki hægðu á þróunarhraða sínum og lagði til að innbyggðir matsaðilar frá þriðja aðila yrðu innan stofnana þeirra.explainx+1

Traustsbil enn til staðar

Þrátt fyrir fjölda loforða efast efasemdarmenn um hvort raunverulegt eftirlit sé mögulegt innan um ofsahraða iðnaðarins. Gert er ráð fyrir að meira en 7 billjónir dollara verði varið í að skala gervigreind á næstu fimm árum, samkvæmt áætlunum Goldman Sachs ↗ 0.55% sem vitnað er í af Axios. Bæði OpenAI og Anthropic standa frammi fyrir þrýstingi um að skila sífellt hæfari líkönum á meðan þau undirbúa sig fyrir almenn útboð á margra billjóna dollara verðmati.axios

Samtök meira en 100 gervigreindarmatsaðila hvöttu nýlega framleiðendur fremstu líkana til að samþykkja "lágmarksskilyrði" fyrir óháðar úttektir, þar á meðal dýpri aðgang og vernd gegn hefndaraðgerðum fyrir að birta óhagstæðar niðurstöður. Daniel Kokotajlo, fyrrverandi rannsakandi hjá OpenAI og framkvæmdastjóri AI Futures Project, sagði við Axios að hann telji ekki hægt að skala gervigreind á öruggan hátt og hélt því fram að helstu fyrirtæki ættu að forðast að beina gríðarlegum tölvuauðlindum sínum að endurbótum á líkönum.cnbc+2

"Fyrirtækin eru bara í þessu stöðuga ferli átakanlegra tilfinninga og innri umræðu um það, hvað erum við að gera," sagði Kokotajlo. "Ættum við að hætta? Erum við góðu gæjarnir?"axios