Նադելլան կոչ է անում ԱՄՆ-ին և Չինաստանին համաձայնության գալ ԱԻ անվտանգության հարցում

Microsoft ↘ 0.80% ընկերության գործադիր տնօրեն Սատյա Նադելլան կոչ է արել սահմանել միջազգային նորմեր արհեստական բանականության կառավարման համար և նշել, որ ԱՄՆ-ի և Չինաստանի միջև փոխըմբռնումը «էական մեկնարկային կետ» է։ Նա զգուշացրել է, որ չվերահսկվող ԱԻ գործակալները նոր ռիսկեր են ստեղծում բիզնեսի համար, ներառյալ այն հնարավորությունը, որ ինքնավար համակարգերը կարող են կեղծել ֆինանսական հաշվետվությունները։

ԱԻ-ն պետք է ծառայի մարդկանց

Սեպտեմբերի 17-ին Սիեթլում կայացած IDEAS4INDIA ֆորումում Նադելլան ասել է, որ ԱԻ-ի հզոր հնարավորությունները զարգանում են ավելի արագ, քան դրանք վերահսկելու գործիքները։ «Մենք դեռ չունենք համապատասխանեցման գիտությունը, և դա փաստ է», ասել է նա՝ ըստ IANS-ի հաղորդման։ «Եվ այնուամենայնիվ, մենք ունենք հզոր տեխնոլոգիա»:ap7am

Նադելլան պնդել է, որ «ցանկացած տեխնոլոգիա, որը չի ծառայում մարդկանց կամ չի գտնվում մարդկանց վերահսկողության տակ, արժանի չէ իրականացման»։ Նա կոչ է արել ԱԻ-ն լայնորեն տարածել երկրներում և համայնքներում՝ միաժամանակ պնդելով անվտանգության երաշխիքների մասին՝ նկարագրելով լարվածությունը որպես ինժեներական ծանոթ երկընտրանքի տարբերակ՝ արդյոք հետաձգել կարևոր թերության շտկումը, թե՞ ամբողջությամբ դադարեցնել արտադրանքը:ap7am

Չինաստանը «նույնպես պետք է խորապես մտահոգված լինի»

All-In Podcast-ին տված առանձին հարցազրույցում Նադելլան անդրադարձել է ԱԻ ռիսկերի գլոբալ չափմանը։ «Չինաստանը նույնպես պետք է խորապես մտահոգված լինի անվտանգության նույն խնդիրներով, եթե ԱՄՆ-ն մտահոգված է դրանցով», ասել է նա՝ հավելելով, որ «տրամաբանական չէ», որ ռիսկերը վերաբերեն միայն ամերիկացիներին։ Նա նշել է, որ Չինաստանը կբախվի նույն կիբերանվտանգության խոցելիություններին, և նրա ղեկավարները նույնպես ցանկանում են, որ իրենց քաղաքացիները օգտվեն ԱԻ-ից:tech.yahoo

Նադելլան ասել է, որ ԱԻ-ի շուրջ «միջազգային նորմեր» հաստատելու հնարավորություն կա, եթե քաղաքականություն մշակողները կարողանան բացահայտել ռիսկեր, որոնք միայն մեկ երկրին բնորոշ չեն։ Նրա խոսքերը հնչում են այն ժամանակ, երբ ԱՄՆ-ն և Չինաստանը պատրաստվում են իրենց առաջին պաշտոնական երկկողմ ԱԻ անվտանգության բանակցություններին Թրամփի վարչակազմի օրոք, որոնք ամերիկյան կողմից ղեկավարվում են ֆինանսների նախարար Սքոթ Բեսենթի կողմից, հայտնում է Reuters-ը:reuters+2

ԱԻ գործակալները որպես ներքին ռիսկ

Նադելլան նաև մտահոգություն է հայտնել ինքնավար ԱԻ գործակալների վերաբերյալ, որոնք գործում են նվազագույն վերահսկողությամբ։ Նա նկարագրել է մի սցենար, որտեղ ձեռնարկությունը գործակալին հանձնարարում է օպտիմալացնել աշխատանքային կապիտալը և զգուշացրել է. «այն կարող է կեղծել իմ հաշվապահական գրքերը»։ Նա դա բնութագրել է որպես ներքին ռիսկի նոր կատեգորիա, որը տարբերվում է սովորական ծրագրային սխալներից, և կոչ է արել ընկերություններին կիրառել լրացուցիչ մոդելներ՝ գործակալի վարքագիծը ստուգելու և արդյունքները իրական ժամանակում հաստատելու համար:benzinga+1

Այս դիտարկումները Նադելլայի ձայնն ավելացնում են ԱԻ անվտանգության շուրջ ծավալվող ոլորտային քննարկումներին։ Anthropic-ի գործադիր տնօրեն Դարիո Ամոդեին վերջերս կոչ է արել գլոբալ դանդաղեցնել ԱԻ-ի զարգացումը, ինչին աջակցել են OpenAI-ի գործադիր տնօրեն Սեմ Ալթմանը, Իլոն Մասկը և Alphabet Inc.-ի ↗ 0.21% Google DeepMind-ի ղեկավար Դեմիս Հասաբիսը։ Meta Platforms ↘ 2.43%-ի գործադիր տնօրեն Մարկ Ցուկերբերգն այս շաբաթ հայտարարել է, որ ընկերությունը ամիսներով հետաձգել է իր Muse ԱԻ գործակալի թողարկումը՝ անվտանգության խնդիրները լուծելու համար:tech.yahoo