Microsoft-sjefen: AI-agenter utgjør en innside-risiko

Microsoft-sjef Satya Nadella ønsker at AI-agenter skal ta over mye mer arbeid på personlige datamaskiner, men han understreker samtidig at folk ikke bør stole blindt på dem. I et eksklusivt intervju med NBC News publisert torsdag, sa han at Windows bør være det tryggeste og kraftigste operativsystemet for AI-agenter, til tross for advarslene om risikoen de medfører.nbcnews.com

Intervjuet følger et essay Nadella publiserte på X lørdag 10. oktober. Der tok han til orde for at avansert AI må bygges med inneslutning, uavhengige kontroller og en "nødbrems" som lar autoriserte personer pause eller stoppe en modell midt i en oppgave.bizjournals.com

Stol minst mulig på modellen

"Å behandle lukkede og åpne modeller som innside-risiko er en måte å bygge et slikt system på," skrev Nadella. Han argumenterte for at selskaper ikke kan spore modelladferd tilbake til spesifikk kode på samme måte som med tradisjonell programvare. "Likevel distribuerer vi disse komplekse agentsystemene og modellene, med tilgang til våre mest sensitive data," sa han.aninews.in+1

"Vi må anta at en modell er kompromittert og isolere den fra start," skrev han, og la til at mer avanserte modeller vil trenge inneslutningsteknologi som bransjen bør standardisere. Han sa at selskaper ikke bør stole utelukkende på løfter fra utviklerne av modellene. I stedet bør kontrollene for hva en modell kan få tilgang til og gjøre, ligge utenfor selve modellen.bloomberg.com+2

Rammeverket hans inkluderer bruk av mer enn én modell, føring av en lesbar logg over hva en modell gjør, kontinuerlig testing, uavhengige kontroller og revisjoner, inneslutning og rapportering av hendelser.cnbc.com

Windows som agentplattform

Nadellas advarsler kommer samtidig som Microsoft bygger sikkerhetsverktøy for agenter inn i Windows. Under et Windows- og Surface-arrangement i San Francisco onsdag 7. oktober, introduserte selskapet Microsoft Execution Containers, som de beskriver som "policy-drevet inneslutning for AI-agenter". The Business Journals meldte at Nadellas krav om sikkerhetstiltak kommer samtidig som Microsoft satser videre på sin egen familie av AI-modeller.bizjournals.com+1

Bredere fokus på sikkerhet

Microsoft-president Brad Smith har kommet med lignende argumenter. Han sa til ITV News at AI er "mindre regulert enn vaskemaskinen din," og i et BBC-intervju gjentok han kravet om nødbremser. Ideen har fått støtte etter en rekke cyberangrep og andre hendelser knyttet til avanserte modeller. President Donald Trump har på sin side gjentatte ganger avvist bekymringer om at AI kan true menneskeheten, og har understreket viktigheten av å ligge foran Kina.independent.co.uk+1

Nadella oppsummerte sitt syn slik: "Det mest pålitelige superintelligente systemet vil ikke være det med modellen vi stoler mest på. Det vil være det som gjør oss i stand til å stole minst mulig på modellen".cnbc.com