DeepSeek ska briefa FN:s säkerhetsråd om AI-risker

Det kinesiska AI-startupbolaget DeepSeek kommer att vara bland de företag som briefar FN:s säkerhetsråd om riskerna med AI, rapporterade Reuters på tisdagen, i ett sällsynt framträdande av ett kinesiskt teknikföretag i ett av världens mest framstående forum för internationell säkerhet.reuters

Det 15 medlemmar starka säkerhetsrådet ska mötas onsdagen den 23 september för att diskutera AI och internationell säkerhet, samtidigt som världsledare samlas i New York för FN:s årliga generalförsamling. OpenAI:s vd Sam Altman planerar att briefa mötet, där diplomater även förväntar sig deltagande från seniora representanter från Anthropic. DeepSeek och andra kinesiska AI-företag, inklusive Moonshot, har bjudits in för att göra uttalanden, även om DeepSeek-grundaren Liang Wenfeng inte planerar att närvara, enligt en källa som betonade att planerna fortfarande kan ändras.cnn+1

Debatten om AI-nedbromsning splittrar Washington och Peking

Mötet äger rum veckor efter att flera ledare inom AI-branschen efterlyst en koordinerad nedbromsning i utvecklingen av allt kraftfullare AI-system, med varningen att de snart kan förbättra sig själva och hamna utanför mänsklig kontroll. FN:s generalsekreterare Antonio Guterres varnade världsledare förra veckan för att snabbt framväxande AI utgör risker som inte kan ignoreras, vilket ställer honom i konflikt med president Donald Trump, som har hävdat att befintliga skyddsåtgärder är tillräckliga.straitstimes+1

Kinesiska statliga medier har avfärdat uppmaningarna om en AI-nedbromsning som ett "kallt krig-spel" i syfte att bevara Washingtons dominans inom spjutspetsteknologi. Till skillnad från ledarna för amerikanska laboratorier har cheferna för Kinas ledande modellutvecklare sällan offentligt uttryckt möjligheten att alltmer kapabla AI-system skulle kunna lura människor eller undgå kontroll.reuters

Framsteg i USA-Kina-samtal om AI-säkerhet

Säkerhetsrådets session kommer mitt i en bredare diplomatisk aktivitet kring AI. Höga amerikanska och kinesiska tjänstemän enades om att hålla fortsatta samtal om AI-säkerhet, sade finansminister Scott Bessent på söndagen efter ett möte med Kinas vice premiärminister He Lifeng i New York. Bessent sade att Washington hade föreslagit en mekanism för att rapportera AI-incidenter som är tillräckligt allvarliga för att väcka nationella säkerhetsfrågor.bbc

Trump-administrationen anordnar också ett separat högnivåevenemang om AI i anslutning till generalförsamlingen på onsdag, enligt CNN. Både säkerhetsrådsmötet och det USA-värdade evenemanget fungerar som en upptakt till det planerade mötet mellan Trump och Kinas president Xi Jinping senare i veckan i Washington, där AI förväntas vara ett centralt ämne.thehill+1

Säkerhetsrådet möttes första gången om AI-risker 2023, då Kina varnade för att tekniken inte bör bli en "skenande häst" och USA varnade för att den används för att censurera eller förtrycka människor.reuters