Altman efterlyser USA-lett globalt organ för AI-säkerhet i debattartikel i FT

OpenAI:s VD Sam Altman publicerade den 1 juli en debattartikel i Financial Times med titeln "Detta är hur vi kan göra AI säkert för alla", där han föreslår ett USA-lett internationellt ramverk för att fastställa globala säkerhetsstandarder för AI. Artikeln argumenterar för att fastställandet av säkerhetsstandarder är "en förutsättning för bred distribution" av avancerade AI-system, och uppmanar folkvalda representanter – inte AI-laboratorier – att sätta reglerna som styr tekniken.threads+2

En push efter G7

Debattartikeln kommer två veckor efter att Altman anslutit sig till andra AI-ledare, Dario Amodei från Anthropic och Demis Hassabis från Google Alphabet Inc. ↗ 0.78% DeepMind, vid G7-toppmötet i Évian-les-Bains i Frankrike, där trion satt tillsammans med stats- och regeringschefer från världens största demokratiska ekonomier. Vid det mötet varnade Altman ledarna: "Överlåt inte ert ansvar till AI-laboratorier som mitt", medan Hassabis specifikt efterlyste "ett USA-lett standardiseringsorgan som idealt sett arbetar i nära samarbete med det internationella demokratiska samfundet".brookings+2

Konceptet påminner om ett organ som Altman tidigare har jämfört med Internationella atomenergiorganet – en organisation som skulle koordinera säkerhetstester och styrningsnormer bland demokratiska nationer, samtidigt som den potentiellt involverar rivaliserande makter, inklusive Kina. Vita huset har enligt Financial Times samtidigt accelererat sina egna planer för standarder för AI-modeller.kucoin+1

Konkurrens och styrning konvergerar

Trycket på styrning kommer samtidigt som de tre ledande AI-laboratorierna är låsta i en intensifierad konkurrens om modellkapacitet och företagsanvändning. OpenAI förbereder sig också för en börsnotering, vilket ger ekonomiska incitament att söka regulatorisk tydlighet. Anthropic och Google DeepMind har i stort sett stöttat samma ramverk för internationell samordning, även om Amodei har argumenterat för att samarbetet bör omfatta strukturerad tillgång till banbrytande modeller och chip-handel, samtidigt som Kina uttryckligen exkluderas från vissa arrangemang.stocktwits+2

Frågan om efterlevnad

Politiska analytiker har noterat att det att efterlysa standarder bara är det första steget. En analys från Brookings Institution publicerad den 30 juni argumenterade för att varje resulterande ramverk måste vara tvingande – inte frivilligt – och drog paralleller till Financial Action Task Force och Basel III-bankstandarderna, som båda växte fram ur tidigare G7-åtgärder och medförde verkliga konsekvenser vid bristande efterlevnad. Analysen uppmanade regeringar att utöka varje standardiseringsprocess bortom tekniska frågor till att inkludera "beteendestandarder" som adresserar konkurrens, innovation och allmänintresset, med deltagande från det civila samhället vid sidan av industrin.brookings