OpenAI låter externa grupper granska AI-modeller tidigare

OpenAI meddelade på tisdagen att de kommer att låta externa organisationer genomföra tekniska säkerhetsbedömningar av sina AI-modeller under tidigare faser av träning, utvärdering och utrullning, ett steg för att adressera växande oro kring potentiella risker med avancerade AI-system.

Skaparna av ChatGPT redogjorde för prioriteringar för att dessa granskningar ska fungera effektivt, inklusive "starka oberoendemekanismer, vetenskaplig stringens, robust säkerhetspraxis och tydliga ansvarsområden", enligt Bloomberg. Tillkännagivandet, som gjordes via ett blogginlägg, kommer under en period av intensiv granskning av AI-branschens säkerhetsarbete.bloomberg

En våg av säkerhetsförslag

Beslutet följer en snabb följd av säkerhetsrelaterade tillkännagivanden från de ledande AI-labben. På måndagen publicerade OpenAI en separat uppsättning förslag fokuserade på forskning kring anpassning och en beräkningsteknik känd som rekursiv självförbättring, eller RSI, där de efterlyser internationellt samarbete för att utveckla standarder. "Fullt autonom RSI sker inte idag, och vi bör inte eftersträva det såvida det inte kan göras säkert," skrev företaget.cnbc

Förra veckan publicerade konkurrenten Anthropic egna förslag för säkrare utveckling av avancerade modeller, efter att forskaren Jacob Coxon startat en global debatt genom att säga upp sig och varna för att AI-labb "spelar med våra liv". Anthropics vd Dario Amodei föreslog därefter att AI-företag bör sänka utvecklingstakten och integrera tredjepartsgranskare internt i sina organisationer.explainx+1

Förtroendeklyftan kvarstår

Trots mängden löften ifrågasätter skeptiker om meningsfull tillsyn är möjlig i branschens rasande tempo. Mer än 7 biljoner dollar förväntas spenderas på att skala upp AI under de kommande fem åren, enligt uppskattningar från Goldman Sachs ↘ 1.38% som citeras av Axios. Både OpenAI och Anthropic står under press att leverera allt mer kapabla modeller inför börsnoteringar med värderingar i biljonklassen.axios

En koalition av över 100 AI-granskare uppmanade nyligen tillverkare av avancerade modeller att anta "minimivillkor" för oberoende revisioner, inklusive djupare tillgång och skydd mot repressalier vid publicering av negativa resultat. Daniel Kokotajlo, en tidigare OpenAI-forskare och chef för AI Futures Project, sa till Axios att han inte tror att AI kan skalas upp säkert, och argumenterade för att de ledande företagen bör undvika att rikta sina enorma beräkningsresurser mot modellförbättring.cnbc+2

"Företagen befinner sig bara i en kontinuerlig process av motstridiga känslor och interna diskussioner om vad de egentligen gör," sa Kokotajlo. "Bör vi sluta? Är vi de goda?"axios