AI-ledare oeniga om bromsad utveckling inför FN-möte

OpenAI-vd:n Sam Altman ska briefa FN:s säkerhetsråd på onsdag under FN:s generalförsamling i New York, samtidigt som en växande klyfta bland AI-ledare om utvecklingstakten når den globala arenan.reuters+1

Sessionen, som sammankallats av Frankrike under deras roterande ordförandeskap och leds av utrikesminister Jean-Noël Barrot, äger rum veckor efter att Anthropic-vd:n Dario Amodei publicerade essän "We Must Pace the Frontier", som har omformat debatten om AI-säkerhet. Altmans anförande förväntas fokusera på internationell samordning och gemensamma säkerhetsstandarder, uppgav en talesperson för OpenAI till Reuters.finance.yahoo+3

En trestegsplan för att bromsa AI

Amodeis essä från 12 september argumenterade för att AI-utvecklingen har accelererat "drastiskt snabbare" sedan sommaren 2026, drivet av AI-systemens växande förmåga att bygga nästa generations AI. Han föreslog en trestegsplan: att bädda in oberoende tredjepartsevaluatorer i alla ledande laboratorier, samordna säkerhetsstandarder mellan AI-företag i demokratiska nationer, och slutligen etablera global samordning som inkluderar Kina.bnnbloomberg+2

Altman ställde sig bakom förslaget på X och skrev: "Jag håller med Dario om att vi måste bromsa utvecklingen", och förpliktade OpenAI att ge oberoende evaluatorer tillgång likställd med anställda samt publicera rapporter om oväntat AI-beteende. Elon Musk backade också Amodei med den korta kommentaren: "Dario har rätt".reuters+1

Men konsensusen är långt ifrån universell. Meta ↗ 1.02%-vd:n Mark Zuckerberg argumenterade för att konkurrens och skadeståndsansvar ger företag tillräckliga incitament att agera individuellt i säkerhetsfrågor. Nvidia ↘ 1.47%-vd:n Jensen Huang avfärdade behovet av nya regleringar och sade till CBS News att det är "0 % chans" att 2030 innebär undergång, samtidigt som han uppmanade branschen att tillämpa befintlig lagstiftning om ansvar.bnnbloomberg

Ökat globalt tryck

FN:s generalsekreterare António Guterres har beskrivit AI som ett av tre "existentiella hot" som världen står inför, vid sidan av klimatkrisen och ökande ojämlikhet. "Världen har inte råd med ett race mot botten när det gäller AI-säkerhet", sade han förra veckan, och kallade globalt samarbete "oumbärligt" samtidigt som han varnade för att frivilliga pauser begränsade till ett fåtal länder inte kommer att fungera.news.un+2

Storbritanniens kung Charles stod förra veckan värd för chefer från Nvidia, Google DeepMind Alphabet Inc. ↘ 3.58%, OpenAI och Anthropic på Dumfries House i Skottland, där han varnade för "existentiella faror" om AI hamnar i fel händer. EU-kommissionen ställde sig bakom kraven på en paus, och ordförande Ursula von der Leyen sade att hon skulle bjuda in ledande laboratorier för att diskutera risker.reuters+2

Alla regeringar delar inte oron. President Donald Trump skrev på Truth Social att AI bara behöver "en STARK OCH SMART (hög IQ!) PRESIDENT" och varnade för att tvivel kring AI-utveckling skulle gynna Kina. Kinas statskontrollerade Global Times anklagade Amodei för att försöka "hämma Kinas AI-utveckling genom tekniska barriärer och regulatoriska monopol".bnnbloomberg

Onsdagens möte i säkerhetsrådet, organets andra dedikerade session om AI-risker sedan 2023, kommer att pröva om det växande kravet på försiktighet kan leda till något mer än bara retorik.tbsnews+1