OpenAI lar eksterne grupper kvalitetssikre AI-modeller tidligere

OpenAI kunngjorde tirsdag at de vil la eksterne organisasjoner utføre tekniske sikkerhetsvurderinger av selskapets AI-modeller i tidligere faser av trening, evaluering og lansering. Dette er et grep for å møte økende bekymring knyttet til potensielle skadevirkninger fra avanserte AI-systemer.

Skaperne av ChatGPT skisserte prioriteringer for at disse vurderingene skal fungere effektivt, inkludert "sterke uavhengighetsmekanismer, vitenskapelig grundighet, robust sikkerhetspraksis og tydelige ansvarsforhold", ifølge Bloomberg. Kunngjøringen, som ble delt via selskapets blogg, kommer i en periode med intenst søkelys på sikkerhetspraksisen i AI-bransjen.bloomberg

En bølge av sikkerhetsforslag

Tiltaket følger en rask rekke sikkerhetsrelaterte kunngjøringer fra de ledende AI-laboratoriene. Mandag publiserte OpenAI et eget sett med forslag fokusert på forskning innen modell-tilpasning og en datateknikk kjent som rekursiv selvforbedring, eller RSI, der de etterlyser internasjonalt samarbeid for å utvikle standarder. "Fullstendig autonom RSI skjer ikke i dag, og vi bør ikke forfølge det med mindre og før det kan gjøres trygt," skrev selskapet.cnbc

I forrige uke publiserte konkurrenten Anthropic egne forslag for tryggere utvikling av avanserte modeller, etter at forsker Jacob Coxon utløste en global debatt ved å si opp sin stilling og advare om at AI-laboratorier "gambler med livene våre". Anthropic-sjef Dario Amodei tok deretter til orde for at AI-selskaper bør senke utviklingstempoet og foreslo å integrere tredjeparts-evaluatorer internt i organisasjonene.explainx+1

Tillitsgapet består

Til tross for strømmen av løfter, stiller skeptikere spørsmål ved om meningsfullt tilsyn er mulig i bransjens halsbrekkende tempo. Mer enn 7000 milliarder dollar forventes å bli brukt på å skalere AI de neste fem årene, ifølge anslag fra Goldman Sachs ↗ 0.55% sitert av Axios. Både OpenAI og Anthropic står under press for å levere stadig mer kapable modeller mens de forbereder børsnoteringer med verdivurderinger i billionklassen.axios

En koalisjon av over 100 AI-evaluatorer oppfordret nylig produsenter av avanserte modeller til å vedta "minimumsbetingelser" for uavhengige revisjoner, inkludert dypere tilgang og beskyttelse mot represalier ved publisering av ugunstige funn. Daniel Kokotajlo, en tidligere OpenAI-forsker og daglig leder for AI Futures Project, sa til Axios at han ikke tror AI kan skaleres trygt, og argumenterte for at de største selskapene bør unngå å rette sine enorme datamessige ressurser mot modellforbedring.cnbc+2

"Selskapene er bare i en kontinuerlig prosess med motstridende følelser og interne diskusjoner om hva de egentlig driver med," sa Kokotajlo. "Bør vi stoppe? Er vi de gode?"axios