„Microsoft“ vadovas Nadella: DI agentai kelia „vidinę grėsmę“

„Microsoft“ generalinis direktorius Satya Nadella nori, kad DI agentai perimtų daug daugiau darbo asmeniniuose kompiuteriuose, tačiau jis taip pat sako, kad žmonės neturėtų jais pasitikėti. Išskirtiniame interviu „NBC News“, paskelbtame ketvirtadienį, jis teigė, kad „Windows“ turėtų būti saugiausia ir galingiausia operacinė sistema DI agentams, net jei jis įspėjo apie jų keliamą riziką.nbcnews.com

Šis interviu pasirodė po Nadellos esė, paskelbtos platformoje X šeštadienį, spalio 10 d. Joje jis paragino kurti pažangųjį DI su izoliavimo priemonėmis, nepriklausoma kontrole ir „avariniu stabdžiu“, leidžiančiu įgaliotiems asmenims pristabdyti arba sustabdyti modelį atliekant užduotį.bizjournals.com

Mažiausiai pasitikėkite modeliu

„Uždaro ir atviro tipo modelių vertinimas kaip vidinės grėsmės yra būdas sukurti tokią sistemą“, – rašė Nadella. Jis teigė, kad įmonės negali atsekti modelio elgsenos iki konkretaus kodo taip, kaip tai darydavo su tradicine programine įranga. „Vis dėlto mes diegiame šias sudėtingas agentines sistemas ir modelius, turinčius prieigą prie mūsų jautriausių duomenų“, – sakė jis.aninews.in+1

„Turime daryti prielaidą, kad modelis yra pažeistas, ir nuo pat pradžių jį izoliuoti“, – rašė jis, pridurdamas, kad pažangesniems modeliams reikės izoliavimo technologijos, kurią pramonė turėtų standartizuoti. Jis teigė, kad įmonės neturėtų pasikliauti tik modelius kuriančių bendrovių pažadais. Vietoj to, pasak jo, kontrolės priemonės, nustatančios, ką modelis gali pasiekti ir daryti, turėtų būti už paties modelio ribų.bloomberg.com+2

Jo sistema apima kelių modelių naudojimą, žmogui suprantamo modelio veiksmų įrašo saugojimą, nuolatinį sistemų testavimą, nepriklausomą kontrolę ir auditą, izoliavimą bei pranešimą apie incidentus.cnbc.com

„Windows“ kaip agentų platforma

Nadellos įspėjimai pasirodė „Microsoft“ integruojant saugos įrankius agentams į „Windows“. Trečiadienį, spalio 7 d., „Windows“ ir „Surface“ renginyje San Fransiske bendrovė pristatė „Microsoft Execution Containers“, kuriuos apibūdina kaip „politika pagrįstą DI agentų izoliavimą“. „The Business Journals“ pranešė, kad Nadellos raginimas imtis apsaugos priemonių pasirodė „Microsoft“ tęsiant savo DI modelių šeimos plėtrą.bizjournals.com+1

Platesnis saugumo skatinimas

„Microsoft“ prezidentas Bradas Smithas išsakė panašius argumentus. Jis sakė „ITV News“, kad DI yra „mažiau reguliuojamas nei jūsų skalbimo mašina“, o interviu BBC pakartojo raginimą įdiegti avarinius stabdžius. Ši idėja sulaukė palaikymo po virtinės kibernetinių atakų ir kitų incidentų, susijusių su pažangiais modeliais. Tuo tarpu prezidentas Donaldas Trumpas ne kartą atmetė nuogąstavimus, kad DI gali kelti grėsmę žmonijai, ir pabrėžė būtinybę lenkti Kiniją.independent.co.uk+1

Nadella savo poziciją apibendrino taip: „Patikimiausia superintelekto sistema bus ne ta, kurios modeliu labiausiai pasitikime. Tai bus ta, kuri leis mums mažiausiai pasitikėti modeliu“.cnbc.com