FN-panel varnar för att AI springer ifrån världens förmåga att reglera den

En vetenskaplig panel från FN släppte sin första rapport om artificiell intelligens på onsdagen och varnade för att AI-kapaciteten utvecklas snabbare än vad vetenskaplig förståelse och statlig politik hinner med, och att det inte finns några garantier för att tekniken förblir säker i takt med att den blir kraftfullare.

Den preliminära rapporten från den oberoende internationella vetenskapliga panelen för artificiell intelligens – ett organ med 40 ledande forskare och experter som inrättades av FN:s generalförsamling i augusti 2025 – presenterades vid en presskonferens vid FN:s högkvarter i New York, med generalsekreterare António Guterres och panelens medordförande Yoshua Bengio och Maria Ressa närvarande.reuters+2

Inga garantier mot katastrofal skada

Bengio, en pionjär inom forskning om djupinlärning, pekade på växande bevis för vilseledande AI-beteende och varnade för att vetenskapen inte kan garantera att AI inte kommer att orsaka katastrofal skada "antingen på egen hand eller på grund av illasinnade användare" i takt med att kapaciteten ökar. Rapporten konstaterade att "den snabba, okontrollerade utrullningen av tekniken i stor skala innebär också betydande risker, inklusive skador på användarnas mentala hälsa, potentiell användning som ett destruktivt verktyg, påverkan på sociala, ekonomiska och miljömässiga system samt utmaningar kopplade till att kontrollera tekniken".usnews+2

Bland de identifierade riskerna finns AI-genererat material med sexuella övergrepp mot barn, sexuellt våld möjliggjort av deepfake och storskalig produktion av övertygande innehåll som panelen sade bidrar till "en gradvis urholkning av informationsintegriteten som kan försvaga allmänhetens förtroende, social sammanhållning och demokratisk debatt".investing+1

Ett gap i global kapacitet

Panelen fann att de flesta länder, inklusive avancerade ekonomier, saknar den tekniska expertis som krävs för att bedöma de mest kapabla nya AI-modellerna eller delta meningsfullt i styrningen av dem. Rapporten efterlyser starkare oberoende utvärdering, internationellt samarbete och gemensamma standarder för att säkerställa att AI-system förblir säkra, transparenta och ansvarsfulla.usnews+1

Resultaten kommer formellt att presenteras för regeringar vid FN:s globala dialog om AI-styrning, som ska äga rum den 6–7 juli på konferenscentret Palexpo i Genève. Det evenemanget, som inrättades tillsammans med den vetenskapliga panelen av generalförsamlingen, är utformat för att ge en plattform för medlemsstater, civilsamhället och den privata sektorn att diskutera internationellt samarbete kring förvaltning av AI.unesco+2

Modellerad efter IPCC

Observatörer har jämfört panelen med FN:s klimatpanel (IPCC), som ger regeringar vetenskapliga bedömningar om klimatförändringar. AI-panelen har i uppdrag att producera årliga evidensbaserade rapporter men är inte i sig ett reglerande organ – den kommer inte att sätta regler eller genomdriva standarder. Dess medlemmar, utvalda från mer än 2 600 kandidater från 37 nationer, tjänstgör i treårsperioder.nature+2

"De potentiella fördelarna med AI är enorma", avslutade rapporten, samtidigt som den gjorde det tydligt att för att realisera dessa fördelar utan att ådra sig riskerna krävs samordnade globala åtgärder.reuters