OpenAI-vd Altman ska briefa FN:s säkerhetsråd om AI-risker

OpenAI publicerade på måndagen ett förslag som uppmanar USA att ta täten i ett internationellt arbete för att utveckla globala säkerhets- och tekniska standarder för avancerad AI. Selskapet varnar för att passivitet kan leda till att landet tvingas se på när ett fragmenterat, ojämnt och konfliktfyllt system tar form.thenextweb+1

Förslaget, som fokuserar på banbrytande AI-modeller och rekursiv självförbättring – en process där AI-system tar ett allt större ansvar för att utveckla sina egna efterföljare – kommer under en vecka präglad av intensiv AI-diplomati i FN och mellan Washington och Peking.

Standarder, inte licenser

OpenAIs plan efterlyser gemensamma ramverk för att mäta AI-kapacitet, bedöma omfattningen av autonom forskning inom AI-företag och etablera delade protokoll för incidentrapportering med gemensamma allvarlighetsgrader. Företaget föreslog att arbetet ska kanaliseras genom det amerikanska handelsdepartementets center för AI-standarder och innovation, samt det växande nätverket av nationella AI-säkerhetsinstitut i länder som Storbritannien, Japan, Frankrike och Kanada.dig+1

Företaget betonade att standarderna "inte skulle vara licenser, obligatoriska förhandsgranskningar eller godkännandekrav för AI-modeller", och lämnade det till enskilda nationer att avgöra hur dessa ska införlivas i nationell lagstiftning. OpenAI efterlyste också säkra kommunikationskanaler mellan myndigheter och operatörer av kritisk infrastruktur för att dela information om nya hot, och uttalade att dialog mellan USA och Kina "skulle vara ett positivt steg".thenextweb+2

"Fullständigt autonom RSI sker inte idag, och vi bör inte eftersträva det såvida det inte kan göras säkert," skrev företaget.thenextweb

En hektisk vecka för AI-diplomati

Förslaget kom mitt i en period av hög aktivitet. Finansminister Scott Bessent sa under helgen att USA och Kina kommit överens om att inleda en bilateral AI-dialog, och Washington föreslog en mekanism för att varna Peking om AI-incidenter. På måndagen skrev president Donald Trump på Truth Social att han föredrar en lätt reglering av AI och tillade: "Den som vinner AI, VINNER!" Bessent sa separat att administrationen inte kommer att ge AI-laboratorier skydd mot skadeståndsansvar.foxbaltimore+1

Under tisdagen varnade FN:s generalsekreterare António Guterres för farorna med AI under FN:s generalförsamling och efterlyste globalt samarbete. Trump, som talade kort därefter, avfärdade idén som ett "globalistiskt upplägg" och sa att USA döper om AI till "superintelligens", enligt Bloomberg.thenextweb

Altman till säkerhetsrådet

Sam Altman ska på onsdagseftermiddagen briefa FN:s säkerhetsråd tillsammans med Anthropic-chefen Dario Amodei, AI-forskaren Yoshua Bengio och Hugging Face-chefen Clément Delangue. Det är rådets första session med fokus på säkerhetsriskerna med allt mer kapabel AI. Representanter för OpenAI sa att Altman kommer att positionera sig som en "pragmatisk centrist" som främjar gemensamma säkerhetsstandarder utan att koncentrera makten hos ett fåtal företag.thenextweb

Senare i veckan ska Altman delta vid en statsmiddag i Vita huset för Kinas president Xi Jinping, vilket understryker hur central AI har blivit i relationen mellan USA och Kina.foxbaltimore+1