OpenAI og Anthropic ber begge om globalt AI-tilsyn

OpenAI-sjef Sam Altman og sjefsforsker Jakub Pachocki publiserte mandag et blogginnlegg der de ber om dannelsen av en internasjonal organisasjon for å overvåke utviklingen av banebrytende AI, inkludert muligheten til å bremse fremgangen "ved behov" slik at sikkerhet og samfunnsmessig motstandskraft kan holde tritt. Oppfordringen kom som en del av en bredere visjonserklæring som kunngjorde det Altman beskrev som OpenAIs "tredje fase", publisert samme dag som selskapet bekreftet at de konfidensielt hadde sendt inn søknad om en børsnotering (IPO) til SEC.businessinsider+1

En sjelden samordning mellom rivaler

Tidspunktet er bemerkelsesverdig fordi det følger en lignende uttalelse fra rivalen Anthropic, som 4. juni publiserte en rapport der de oppfordrer AI-laboratorier til å utvikle et koordinert og verifiserbart rammeverk for å sette utviklingen på pause hvis avanserte systemer begynner å forbedre seg raskere enn samfunnet kan kontrollere. "Vi mener det ville være bra for verden å ha muligheten til å bremse eller midlertidig sette utviklingen av banebrytende AI på pause for å la samfunnsstrukturer og sikkerhetsforskning holde tritt", skrev Anthropic.finance.yahoo+1

Anthropic advarte om at "rekursiv selvforbedring" – der AI-systemer uavhengig designer, bygger og trener sine etterfølgere – "kan komme raskere enn mange organisasjoner er klare for", og at uten tilstrekkelige sikkerhetstiltak kan det komplisere menneskelig tilsyn med AI-utvikling. Selskapet uttalte at enhver meningsfull pause ville kreve enighet fra flere ledende laboratorier på tvers av landegrenser, spesielt USA og Kina, sammen med verifiseringsprotokoller.reuters+1

Fra konkurranse til koordinering

Konvergensen mellom de to selskapene er slående gitt deres intense kommersielle rivalisering. Begge forbereder seg på børsnotering, med Anthropic som sendte inn sin S-1-søknad tidlig i juni, og OpenAI verdsatt til mer enn 850 milliarder dollar. Likevel støtter begge nå offentlig ideen om at et eksternt organ bør ha myndighet til å bremse utviklingen av de kraftigste AI-systemene.vktr+1

OpenAIs press for et internasjonalt styringsorgan er ikke nytt – Altman foreslo først en "IAEA for superintelligens" i 2023 – men den siste uttalelsen er mer konkret i sin formulering. Ifølge The Decoder etterlyste Altman og Pachocki "et internasjonalt organ som kan bremse banebrytende utvikling ved behov". Business Insider rapporterte at paret understreket "nødvendigheten av nasjonalt og internasjonalt samarbeid, og gjentok forslaget om en global organisasjon dedikert til å redusere risikoen knyttet til AI, med evnen til å bremse utviklingen av avanserte modeller når det er nødvendig".nytimes+2

Om forslagene utgjør mer enn retorikk gjenstår å se. Ingen av selskapene har forpliktet seg til ensidige begrensninger på sin egen utvikling, og Anthropic erkjente at hvis bare ett firma satte utviklingen på pause, ville konkurrenter rykke fra. Det sentrale spørsmålet nå er om myndighetene vil ta imot invitasjonen – og om laboratoriene vil akseptere reell ekstern autoritet over arbeidet sitt.finance.yahoo