OpenAI-sjef Altman skal orientere FNs sikkerhetsråd om AI-risiko

OpenAI publiserte mandag et forslag som oppfordrer USA til å ta ledelsen i et internasjonalt arbeid for å utvikle globale sikkerhets- og tekniske standarder for avansert AI. Selskapet advarer om at passivitet kan føre til at landet ender opp med å se på mens et fragmentert, ujevnt og konfliktfylt system tar form.thenextweb+1

Forslaget, som fokuserer på grensesprengende AI-modeller og rekursiv selvforbedring – en prosess der AI-systemer tar økende ansvar for å utvikle sine egne etterfølgere – kommer i en uke preget av intens AI-diplomati i FN og mellom Washington og Beijing.

Standarder, ikke lisenser

OpenAIs plan etterlyser felles rammeverk for å måle AI-kapasitet, vurdere omfanget av autonom forskning i AI-selskaper, og etablere delte protokoller for hendelsesrapportering med felles alvorlighetsgrader. Selskapet foreslo å kanalisere arbeidet gjennom det amerikanske handelsdepartementets senter for AI-standarder og innovasjon, samt det voksende nettverket av nasjonale AI-sikkerhetsinstitutter i land som Storbritannia, Japan, Frankrike og Canada.dig+1

Selskapet understreket at standardene "ikke ville være lisenser, obligatoriske forhåndsvurderinger eller godkjenningskrav for AI-modeller", og overlot til enkelte nasjoner å avgjøre hvordan disse skal innlemmes i nasjonal lovgivning. OpenAI etterlyste også sikre kommunikasjonskanaler mellom myndigheter og operatører av kritisk infrastruktur for å dele informasjon om nye trusler, og uttalte at dialog mellom USA og Kina "ville være et positivt skritt".thenextweb+2

"Fullstendig autonom RSI skjer ikke i dag, og vi bør ikke forfølge det med mindre og før det kan gjøres trygt," skrev selskapet.thenextweb

En travel uke for AI-diplomati

Forslaget kom midt i en periode med høy aktivitet. Finansminister Scott Bessent sa i helgen at USA og Kina var blitt enige om å opprette en bilateral AI-dialog, og Washington foreslo en mekanisme for varsling om AI-hendelser til Beijing. Mandag skrev president Donald Trump på Truth Social at han foretrekker en lett regulering av AI, og la til: "Den som vinner AI, VINNER!" Bessent sa separat at administrasjonen ikke vil gi AI-laboratorier beskyttelse mot erstatningsansvar.foxbaltimore+1

Tirsdag advarte FNs generalsekretær António Guterres om farene ved AI under FNs hovedforsamling og etterlyste globalt samarbeid. Trump, som talte kort tid etter, avfeide ideen som et "globalistisk opplegg" og sa at USA omdøper AI til "superintelligens", ifølge Bloomberg.thenextweb

Altman til Sikkerhetsrådet

Sam Altman skal onsdag ettermiddag orientere FNs sikkerhetsråd sammen med Anthropic-sjef Dario Amodei, AI-forsker Yoshua Bengio og Hugging Face-sjef Clément Delangue. Dette er rådets første sesjon med fokus på sikkerhetsrisikoen ved stadig mer kapabel AI. Representanter for OpenAI sa at Altman vil posisjonere seg som en "pragmatisk sentrist" som fremmer felles sikkerhetsstandarder uten å konsentrere makt hos noen få selskaper.thenextweb

Senere denne uken skal Altman delta på en statsmiddag i Det hvite hus for Kinas president Xi Jinping, noe som understreker hvor sentral AI har blitt i forholdet mellom USA og Kina.foxbaltimore+1