FN-sjefen ber om forbud mot «drapsroboter» under første globale AI-dialog

FNs generalsekretær António Guterres advarte mandag om at kunstig intelligens «utvikler seg i løpsk fart» og tok til orde for omfattende globale styringstiltak – inkludert et forbud mot dødelige autonome våpen og nye beskyttelsestiltak for barn – da 193 nasjoner samlet seg i Genève til den første globale dialogen om AI-styring.un+1

En teknologi «distribuert raskere enn noen kan holde tritt med»

«Et eksperiment blir utført på våre egne samfunn – uten en plan, og uten samtykke,» sa Guterres til delegatene ved Palexpo konferansesenter, da han åpnet det to dager lange forumet etablert av FNs generalforsamling i august 2025. Den første dialogen, ledet av ambassadør Egriselda López fra El Salvador og ambassadør Rein Tammsaar fra Estland, går parallelt med World Summit on the Information Society Forum og ITUs AI for Good Global Summit senere denne uken.itu+3

Guterres forankret talen sin i en foreløpig rapport fra det uavhengige internasjonale vitenskapelige panelet for AI, et organ med 40 eksperter som kom med «tre advarsler» om teknologiens hastighet, konsentrasjonen av makt hos en håndfull selskaper og land, og AI sin evne til å undergrave sannheten. «En maskin-generert løgn kan nå overbevise like effektivt som sannheten – og autentiske bevis kan avfeies som falske,» sa han.un

Barnesikkerhetsløfte og «drapsroboter»

Blant sine mest konkrete forslag kunngjorde Guterres et AI-løfte for barnesikkerhet som krever at selskaper gjennomfører barnespesifikk sikkerhetstesting før distribusjon, håndhever nulltoleranse for AI-generert seksuelt overgrepsmateriale, og sikrer at systemer kobler barn i nød til menneskelig støtte. «Ingen barn bør være prøvekaniner for uregulert AI,» sa han.arabnews+1

Guterres tok også til orde for et internasjonalt juridisk forbud mot det han kalte «drapsroboter» – dødelige autonome våpensystemer som velger og engasjerer mål uten menneskelig kontroll. «Det er moralsk frastøtende. Det er politisk uakseptabelt. Og det må forbys ved internasjonal lov,» sa han, og oppfordret stater til ikke å «vente på grusomheter før de handler».un+1

Sette premissene for fremtiden

Generalsekretæren skisserte fire prioriteringer: felles sikkerhetsstandarder for banebrytende AI-systemer, faste røde linjer for menneskerettigheter, utvidet AI-kapasitet for utviklingsland, og miljømessig åpenhet fra store AI-selskaper. Han kunngjorde også planer om å foreslå et globalt fond for AI til generalforsamlingen, rettet mot å bygge opp datakraft og ferdigheter over hele verden, og avslørte at mer enn 20 medlemsland allerede har nominert sentre til et nytt FN-støttet globalt nettverk for kapasitetsbygging innen AI.un

«Vi kan være den siste generasjonen som er i stand til å sette premissene for hvordan menneskeheten og maskiner skal sameksistere,» sa Guterres. «Døren er fortsatt åpen. Men den vil ikke forbli åpen lenge.»un