DeepSeek skal orientere FNs sikkerhetsråd om AI-risiko

Det kinesiske oppstartsselskapet for kunstig intelligens, DeepSeek, vil være blant selskapene som orienterer FNs sikkerhetsråd om risikoen ved AI, meldte Reuters på tirsdag. Dette er en sjelden opptreden av et kinesisk teknologiselskap i et av verdens mest fremtredende fora for internasjonal sikkerhet.reuters

Det 15 medlemmer store sikkerhetsrådet skal møtes onsdag 23. september for å diskutere AI og internasjonal sikkerhet, mens verdensledere samles i New York til FNs årlige hovedforsamling. OpenAI-sjef Sam Altman planlegger å orientere på møtet, hvor diplomater også forventer deltakelse fra seniorrepresentanter fra Anthropic. DeepSeek og andre kinesiske AI-selskaper, inkludert Moonshot, er invitert til å komme med uttalelser, selv om DeepSeek-grunnlegger Liang Wenfeng ikke planlegger å delta, ifølge en kilde som understreket at planene fortsatt kan endre seg.cnn+1

Debatten om AI-nedbremsing skaper splid mellom Washington og Beijing

Møtet finner sted uker etter at flere ledere i AI-bransjen ba om en koordinert nedbremsing i utviklingen av stadig kraftigere AI-systemer, og advarte om at de snart kan forbedre seg selv og slippe ut av menneskelig kontroll. FNs generalsekretær Antonio Guterres advarte verdensledere forrige uke om at raskt fremrykkende AI utgjør risikoer som ikke kan ignoreres, noe som setter ham i konflikt med president Donald Trump, som har hevdet at eksisterende sikkerhetstiltak er tilstrekkelige.straitstimes+1

Kinesiske statlige medier har avfeid oppfordringene om en AI-nedbremsing som et "kald krig-spill" rettet mot å bevare Washingtons dominans innen banebrytende teknologi. I motsetning til lederne for amerikanske laboratorier, har sjefene for Kinas ledende modellutviklere sjelden offentlig artikulert muligheten for at stadig mer kapable AI-systemer kan lure mennesker eller unndra seg kontroll.reuters

Økt fremdrift i AI-sikkerhetssamtaler mellom USA og Kina

Sikkerhetsrådets sesjon kommer midt i bredere diplomatisk aktivitet rundt AI. Høytstående amerikanske og kinesiske tjenestemenn ble enige om å holde videre samtaler om AI-sikkerhet, sa finansminister Scott Bessent søndag etter et møte med Kinas visestatsminister He Lifeng i New York. Bessent sa at Washington hadde foreslått en varslingsmekanisme for AI-hendelser som er alvorlige nok til å skape nasjonale sikkerhetsbekymringer.bbc

Trump-administrasjonen arrangerer også et eget høynivåarrangement om AI på sidelinjen av hovedforsamlingen på onsdag, ifølge CNN. Både sikkerhetsrådsmøtet og det USA-arrangerte arrangementet fungerer som en forløper til det planlagte møtet mellom Trump og Kinas president Xi Jinping senere denne uken i Washington, hvor AI forventes å være et sentralt tema.thehill+1

Sikkerhetsrådet møttes første gang om AI-risiko i 2023, da Kina advarte om at teknologien ikke må bli en "løpsk hest" og USA advarte mot bruk av den til å sensurere eller undertrykke mennesker.reuters