AI-ledere uenige om oppbremsing før møte i FNs sikkerhetsråd

OpenAI-sjef Sam Altman skal orientere FNs sikkerhetsråd på onsdag under FNs generalforsamling i New York, samtidig som en økende splittelse blant AI-ledere om utviklingstempoet når den globale arenaen.reuters+1

Møtet, som er innkalt av Frankrike under deres roterende presidentskap og ledes av utenriksminister Jean-Noël Barrot, finner sted uker etter at Anthropic-sjef Dario Amodei publiserte essayet "We Must Pace the Frontier", som har endret debatten om AI-sikkerhet. Altmans innlegg forventes å fokusere på internasjonal koordinering og felles sikkerhetsstandarder, opplyste en talsperson for OpenAI til Reuters.finance.yahoo+3

En tretrinnsplan for å bremse AI

Amodeis essay fra 12. september argumenterte for at AI-utviklingen har akselerert "drastisk raskere" siden sommeren 2026, drevet av AI-ens økende evne til å bygge neste generasjons AI-systemer. Han foreslo en tretrinnsplan: å integrere uavhengige tredjepartsevaluatorer i alle ledende laboratorier, koordinere sikkerhetsstandarder mellom AI-selskaper i demokratiske land, og etter hvert etablere global koordinering som inkluderer Kina.bnnbloomberg+2

Altman støttet forslaget på X, der han skrev: "Jeg er enig med Dario i at vi må bremse utviklingen," og forpliktet OpenAI til å gi uavhengige evaluatorer tilgang på linje med ansatte, samt publisere rapporter om uventet AI-oppførsel. Elon Musk støttet også Amodei med den korte meldingen: "Dario har rett".reuters+1

Men konsensusen er langt fra universell. Meta ↗ 1.02%-sjef Mark Zuckerberg argumenterte for at konkurranse og erstatningsansvar gir selskaper tilstrekkelige insentiver til å handle individuelt når det gjelder sikkerhet. Nvidia ↘ 1.47%-sjef Jensen Huang avviste behovet for nye reguleringer, og uttalte til CBS News at det er "0 % sjanse" for at 2030 bringer dommedag, samtidig som han oppfordret bransjen til å benytte eksisterende ansvarslovgivning.bnnbloomberg

Økende globalt press

FNs generalsekretær António Guterres har beskrevet AI som en av tre "eksistensielle trusler" verden står overfor, sammen med klimakrisen og økende ulikhet. "Verden har ikke råd til et kappløp mot bunnen når det gjelder AI-sikkerhet," sa han forrige uke, og kalte globalt samarbeid "uunnværlig" samtidig som han advarte om at frivillige pauser begrenset til noen få land ikke vil fungere.news.un+2

Storbritannias kong Charles var forrige uke vertskap for ledere fra Nvidia, Google DeepMind Alphabet Inc. ↘ 3.58%, OpenAI og Anthropic på Dumfries House i Skottland, hvor han advarte om "eksistensielle farer" dersom AI havner i feil hender. EU-kommisjonen støttet oppfordringene om en pause, og president Ursula von der Leyen uttalte at hun vil invitere ledende laboratorier til å diskutere risiko.reuters+2

Ikke alle myndigheter deler bekymringen. President Donald Trump skrev på Truth Social at AI kun trenger "en STERK OG SMART (høy IQ!) PRESIDENT" og advarte om at tvil rundt AI-utvikling vil gagne Kina. Kinas statskontrollerte Global Times anklaget Amodei for å forsøke å "bremse Kinas AI-utvikling gjennom teknologiske barrierer og regulatoriske monopoler".bnnbloomberg

Onsdagens møte i sikkerhetsrådet, som er organets andre dedikerte sesjon om AI-risiko siden 2023, vil teste om det økende kravet om forsiktighet kan føre til noe mer enn bare retorikk.tbsnews+1