Altman tar til orde for et USA-ledet globalt organ for AI-sikkerhet i kronikk i FT

OpenAI-sjef Sam Altman publiserte 1. juli en kronikk i Financial Times med tittelen «Dette er hvordan vi kan gjøre AI trygt for alle», der han foreslår et USA-ledet internasjonalt rammeverk for å etablere globale sikkerhetsstandarder for AI. Artikkelen argumenterer for at det å fastsette sikkerhetsstandarder er «en forutsetning for bred distribusjon» av avanserte AI-systemer, og oppfordrer folkevalgte representanter – ikke AI-laboratorier – til å sette reglene som styrer teknologien.threads+2

Et press etter G7

Kronikken kommer to uker etter at Altman sluttet seg til andre AI-ledere, Dario Amodei fra Anthropic og Demis Hassabis fra Google Alphabet Inc. ↗ 0.78% DeepMind, under G7-toppmøtet i Évian-les-Bains i Frankrike, hvor trioen satt sammen med statsledere fra verdens største demokratiske økonomier. Under dette møtet advarte Altman lederne: «Ikke overlat deres ansvar til AI-laboratorier som mitt», mens Hassabis spesifikt tok til orde for «et USA-ledet standardorgan som ideelt sett jobber i tett samarbeid med det internasjonale demokratiske samfunnet».brookings+2

Konseptet gjenspeiler et organ Altman tidligere har sammenlignet med Det internasjonale atomenergibyrået – en organisasjon som ville koordinere sikkerhetstesting og styringsnormer blant demokratiske nasjoner, samtidig som den potensielt involverer rivaliserende makter, inkludert Kina. Ifølge Financial Times har Det hvite hus samtidig akselerert sine egne planer for standarder for AI-modeller.kucoin+1

Konkurranse og styring konvergerer

Presset for styring kommer samtidig som de tre ledende AI-laboratoriene er låst i en intensiverende konkurranse om modellkapasitet og bedriftsadopsjon. OpenAI forbereder seg også på en børsnotering, noe som gir økonomiske insentiver for å søke regulatorisk klarhet. Anthropic og Google DeepMind har i stor grad støttet det samme rammeverket for internasjonal koordinering, selv om Amodei har argumentert for at samarbeidet bør omfatte strukturert tilgang til grensesprengende modeller og chip-handel, samtidig som Kina eksplisitt ekskluderes fra visse avtaler.stocktwits+2

Spørsmålet om håndheving

Politiske analytikere har bemerket at det å etterlyse standarder bare er det første steget. En analyse fra Brookings Institution publisert 30. juni argumenterte for at ethvert resulterende rammeverk må være håndhevbart – ikke frivillig – og trakk paralleller til Financial Action Task Force og Basel III-bankstandardene, som begge oppsto fra tidligere G7-tiltak og medførte reelle konsekvenser ved manglende overholdelse. Analysen oppfordret myndighetene til å utvide enhver standardiseringsprosess utover tekniske bekymringer til å inkludere «atferdsstandarder» som adresserer konkurranse, innovasjon og allmennhetens interesse, med deltakelse fra sivilsamfunnet sammen med industrien.brookings