Nadella ragina JAV ir Kiniją susitarti dėl DI saugumo

„Microsoft“ ↘ 0.48% generalinis direktorius Satya Nadella paragino nustatyti tarptautines normas dirbtiniam intelektui valdyti ir teigė, kad susitarimas tarp JAV ir Kinijos yra „esminis atspirties taškas“. Jis įspėjo, kad nekontroliuojami DI agentai kelia naują riziką verslui, įskaitant galimybę, kad autonominės sistemos gali klastoti finansinius įrašus.

DI turi tarnauti žmonėms

Rugsėjo 17 d. kalbėdamas „IDEAS4INDIA“ forume Sietle, Nadella sakė, kad galingos DI galimybės vystosi greičiau nei įrankiai joms kontroliuoti. „Mes dar neturime suderinamumo mokslo, ir tai yra faktas“, – sakė jis, remiantis IANS pranešimais. „Ir vis dėlto mes turime galingą technologiją.“ap7am

Nadella teigė, kad „bet kokia technologija, kuri netarnauja žmonėms arba nėra jų kontroliuojama, nėra verta dėmesio“. Jis paragino plačiai skleisti DI tarp šalių ir bendruomenių, kartu reikalaudamas apsaugos priemonių, ir apibūdino šią įtampą kaip pažįstamą inžinerinę dilemą: ar atidėti kritinės klaidos taisymą, ar visiškai sustabdyti produktą.ap7am

Kinija „taip pat turėtų būti labai susirūpinusi“

Kitame pasirodyme „All-In Podcast“ laidoje Nadella aptarė pasaulinį DI rizikos aspektą. „Kinija taip pat turėtų būti labai susirūpinusi dėl tų pačių saugumo problemų, jei JAV dėl jų nerimauja“, – sakė jis, pridurdamas, kad „nėra prasmės“, jog rizika rūpėtų tik amerikiečiams. Jis pažymėjo, kad Kinija susidurtų su tomis pačiomis kibernetinio saugumo spragomis ir kad jos vadovai taip pat nori, jog piliečiai gautų naudos iš DI.tech.yahoo

Nadella sakė, kad yra galimybė nustatyti „tarptautines normas“ DI srityje, jei politikos formuotojai galėtų nustatyti rizikas, kurios nėra tik „būdingos“ vienai šaliai. Jo pastabos nuskambėjo JAV ir Kinijai ruošiantis pirmosioms oficialioms dvišalėms DI saugumo deryboms valdant Trumpo administracijai, kurioms JAV pusėje vadovauja iždo sekretorius Scottas Bessentas, praneša „Reuters“.reuters+2

DI agentai kaip vidinė rizika

Nadella taip pat išreiškė susirūpinimą dėl autonominių DI agentų, veikiančių su minimalia priežiūra. Jis aprašė scenarijų, kai įmonė paveda agentui optimizuoti apyvartinį kapitalą, ir įspėjo: „jis gali klastoti mano knygas“. Jis apibūdino tai kaip naują vidinės rizikos kategoriją, besiskiriančią nuo įprastų programinės įrangos klaidų, ir paragino įmones diegti papildomus modelius, skirtus agentų elgsenai audituoti ir rezultatams tikrinti realiuoju laiku.benzinga+1

Šios pastabos papildo platesnę pramonės diskusiją apie DI saugumą. „Anthropic“ generalinis direktorius Dario Amodei neseniai paragino visame pasaulyje sulėtinti DI plėtrą, sulaukęs „OpenAI“ generalinio direktoriaus Samo Altmano, Elono Musko ir „Alphabet Inc.“ ↗ 2.98% „Google DeepMind“ vadovo Demiso Hassabiso palaikymo. „Meta Platforms“ ↘ 0.52% generalinis direktorius Markas Zuckerbergas šią savaitę sakė, kad bendrovė mėnesiams atidėjo savo „Muse“ DI agento išleidimą, kad išspręstų saugumo problemas.tech.yahoo