OpenAI och Anthropic efterlyser båda globalt AI-tillsyn

OpenAI:s vd Sam Altman och chefsforskare Jakub Pachocki publicerade på måndagen ett blogginlägg där de efterlyser bildandet av en internationell organisation för att övervaka utvecklingen av banbrytande AI, inklusive möjligheten att bromsa framsteg "vid behov" så att säkerhet och samhällelig motståndskraft kan hålla jämna steg. Uppmaningen kom som en del av en bredare visionsförklaring som tillkännagav vad Altman beskrev som OpenAI:s "tredje fas", publicerad samma dag som företaget bekräftade att de konfidentiellt lämnat in en ansökan om en börsnotering (IPO) till SEC.businessinsider+1

En sällsynt samordning mellan rivaler

Tidpunkten är anmärkningsvärd eftersom den följer ett liknande uttalande från rivalen Anthropic, som den 4 juni publicerade en rapport där de uppmanar AI-laboratorier att utveckla ett koordinerat och verifierbart ramverk för att pausa utvecklingen om avancerade system börjar förbättra sig snabbare än vad samhället kan kontrollera. "Vi anser att det vore bra för världen att ha möjligheten att bromsa eller tillfälligt pausa utvecklingen av banbrytande AI för att låta samhällsstrukturer och säkerhetsforskning hålla jämna steg", skrev Anthropic.finance.yahoo+1

Anthropic varnade för att "rekursiv självförbättring" – där AI-system självständigt designar, bygger och tränar sina efterföljare – "kan komma snabbare än många organisationer är redo för", och att det utan tillräckliga skyddsåtgärder skulle kunna komplicera mänsklig tillsyn av AI-utveckling. Företaget uppgav att varje meningsfull paus skulle kräva enighet från flera ledande laboratorier över nationsgränserna, särskilt USA och Kina, tillsammans med verifieringsprotokoll.reuters+1

Från konkurrens till koordinering

Konvergensen mellan de två företagen är slående med tanke på deras intensiva kommersiella rivalitet. Båda förbereder sig för börsnoteringar, där Anthropic lämnade in sin S-1-ansökan i början av juni och OpenAI värderas till mer än 850 miljarder dollar. Ändå stöder båda nu offentligt idén om att ett externt organ bör ha befogenhet att bromsa utvecklingen av de mest kraftfulla AI-systemen.vktr+1

OpenAI:s påtryckningar för ett internationellt styrande organ är inte nytt – Altman föreslog först en "IAEA för superintelligens" 2023 – men det senaste uttalandet är mer konkret i sin formulering. Enligt The Decoder efterlyste Altman och Pachocki "ett internationellt organ som vid behov skulle kunna bromsa banbrytande utveckling". Business Insider rapporterade att paret betonade "nödvändigheten av nationellt och internationellt samarbete, och upprepade sitt förslag om en global organisation dedikerad till att minska riskerna förknippade med AI, med förmågan att bromsa utvecklingen av avancerade modeller när det är nödvändigt".nytimes+2

Om förslagen innebär mer än bara retorik återstår att se. Inget av företagen har förbundit sig till ensidiga begränsningar av sin egen utveckling, och Anthropic erkände att om bara ett företag pausade, skulle konkurrenter gå om. Den centrala frågan nu är om regeringar kommer att hörsamma inbjudan – och om laboratorierna kommer att acceptera verklig extern auktoritet över sitt arbete.finance.yahoo