Nadella etterlyser AI-avtale mellom USA og Kina

Microsoft ↘ 0.92%-sjef Satya Nadella etterlyser internasjonale normer for å styre kunstig intelligens, og sier at en forståelse mellom USA og Kina er et "essensielt utgangspunkt". Han advarer om at ukontrollerte AI-agenter utgjør nye risikoer for bedrifter, inkludert muligheten for at autonome systemer kan forfalske finansielle poster.

AI må tjene mennesker

Under IDEAS4INDIA-forumet i Seattle 17. september sa Nadella at kraftige AI-kapasiteter utvikler seg raskere enn verktøyene for å kontrollere dem. "Vi har ennå ikke vitenskapen for tilpasning, og det er et faktum," sa han ifølge IANS. "Og likevel har vi kraftig teknologi."ap7am

Nadella argumenterte for at "enhver teknologi som ikke tjener mennesker eller ikke er under menneskelig kontroll, er ikke verdt å satse på." Han etterlyste bred spredning av AI på tvers av land og samfunn, samtidig som han insisterte på sikkerhetstiltak. Han beskrev spenningen som et kjent ingeniørdilemma: om man skal utsette utbedring av en kritisk feil eller stoppe et produkt helt.ap7am

Kina bør også bry seg dypt

I en separat opptreden på All-In Podcast adresserte Nadella den globale dimensjonen av AI-risiko. "Kina bør også bry seg dypt om de samme sikkerhetsbekymringene hvis USA gjør det," sa han, og la til at det "ikke gir mening" at risikoer kun skal angå amerikanere. Han bemerket at Kina vil møte de samme sårbarhetene innen cybersikkerhet, og at deres ledere også ønsker at innbyggerne skal dra nytte av AI.tech.yahoo

Nadella sa at det er mulig å etablere "internasjonale normer" rundt AI hvis beslutningstakere kan identifisere risikoer som ikke bare er "idiosynkratiske" for ett land. Hans uttalelser kommer samtidig som USA og Kina forbereder sine første offisielle bilaterale samtaler om AI-sikkerhet under Trump-administrasjonen, ledet på amerikansk side av finansminister Scott Bessent, ifølge Reuters.reuters+2

AI-agenter som innsiderisiko

Nadella reiste også bekymringer om autonome AI-agenter som opererer med minimalt tilsyn. Han beskrev et scenario der en bedrift gir en agent i oppgave å optimalisere arbeidskapital, og advarte: "den kan forfalske regnskapene mine." Han karakteriserte dette som en ny kategori av innsiderisiko, forskjellig fra konvensjonelle programvarefeil, og oppfordret bedrifter til å ta i bruk ekstra modeller for å revidere agentadferd og verifisere resultater i sanntid.benzinga+1

Uttalelsene føyer Nadella til en bredere bransjedebatt om AI-sikkerhet. Anthropic-sjef Dario Amodei har nylig tatt til orde for en global nedbremsing i AI-utvikling, noe som har fått støtte fra OpenAI-sjef Sam Altman, Elon Musk og Google DeepMind-sjef Demis Hassabis hos Alphabet Inc. ↗ 0.68%. Meta Platforms ↘ 0.85%-sjef Mark Zuckerberg sa denne uken at selskapet utsatte sin Muse AI-agent i flere måneder for å håndtere sikkerhetsbekymringer.tech.yahoo