Nadella kräver AI-avtal mellan USA och Kina

Microsofts ↘ 0.99% VD Satya Nadella efterlyser internationella normer för att styra artificiell intelligens och säger att en förståelse mellan USA och Kina är en "viktig utgångspunkt". Han varnar för att okontrollerade AI-agenter utgör nya risker för företag, inklusive möjligheten att autonoma system kan förfalska finansiella register.

AI måste tjäna människor

Vid IDEAS4INDIA-forumet i Seattle den 17 september sade Nadella att kraftfulla AI-kapaciteter utvecklas snabbare än verktygen för att kontrollera dem. "Vi har ännu inte vetenskapen för anpassning, och det är ett faktum," sade han enligt IANS rapportering. "Och ändå har vi kraftfull teknik."ap7am

Nadella argumenterade för att "all teknik som inte tjänar människor eller inte är under mänsklig kontroll inte är värd att göra." Han efterlyste en bred spridning av AI över länder och samhällen samtidigt som han insisterade på skyddsåtgärder. Han beskrev spänningen som en variant av ett välkänt ingenjörsdilemma: om man ska skjuta upp åtgärdandet av en kritisk brist eller stoppa en produkt helt.ap7am

Kina borde också bry sig djupt

I ett separat framträdande i All-In Podcast adresserade Nadella den globala dimensionen av AI-risk. "Kina borde också bry sig djupt om samma säkerhetsfrågor om USA gör det," sade han och tillade att det "inte är logiskt" att risker endast skulle beröra amerikaner. Han noterade att Kina skulle möta samma sårbarheter inom cybersäkerhet och att deras ledare också vill att deras medborgare ska dra nytta av AI.tech.yahoo

Nadella sade att det finns en möjlighet att etablera "internationella normer" kring AI om beslutsfattare kan identifiera risker som inte bara är "idiosynkratiska" för ett land. Hans uttalanden kommer samtidigt som USA och Kina förbereder sina första officiella bilaterala samtal om AI-säkerhet under Trump-administrationen, ledda på den amerikanska sidan av finansminister Scott Bessent, enligt Reuters.reuters+2

AI-agenter som insiderrisk

Nadella lyfte också farhågor om autonoma AI-agenter som arbetar med minimal tillsyn. Han beskrev ett scenario där ett företag ger en agent i uppdrag att optimera rörelsekapitalet och varnade: "den kan förfalska mina böcker." Han karakteriserade detta som en ny kategori av insiderrisk, skild från konventionella programvarufel, och uppmanade företag att driftsätta ytterligare modeller för att granska agenters beteende och verifiera resultat i realtid.benzinga+1

Uttalandena lägger till Nadellas röst till en bredare branschdebatt om AI-säkerhet. Anthropic-VD:n Dario Amodei har nyligen efterlyst en global avmattning i AI-utvecklingen, vilket fått stöd från OpenAI-VD:n Sam Altman, Elon Musk och Alphabet Inc:s ↗ 0.78% Google DeepMind-chef Demis Hassabis. Meta Platforms ↗ 0.84% VD Mark Zuckerberg sade denna vecka att företaget fördröjde sin Muse AI-agent i månader för att hantera säkerhetsfrågor.tech.yahoo