Newsletter Subscribe
Enter your email address below and subscribe to our newsletter
[forminator_form id="25163"]

nbcnews.com:bloomberg.com+1:news.microsoft.com+1:Microsoft-ի գործադիր տնօրեն Սատյա Նադելլան ցանկանում է, որ AI գործակալները շատ ավելի մեծ ծավալի աշխատանք կատարեն անհատական համակարգիչներում, սակայն նա նաև նշում է, որ մարդիկ չպետք է կույր վստահեն դրանց: NBC News-ին տված բացառիկ հարցազրույցում, որը հրապարակվել է հինգշաբթի օրը, նա ասել է, որ Windows-ը պետք է լինի ամենաանվտանգ և հզոր օպերացիոն համակարգը AI գործակալների համար, նույնիսկ այն դեպքում, երբ նա զգուշացնում է դրանց կրած ռիսկերի մասին:nbcnews.com
Հարցազրույցը հաջորդել է Նադելլայի կողմից հոկտեմբերի 10-ին՝ շաբաթ օրը, X-ում հրապարակված էսսեին: Դրանում նա կոչ է արել առաջադեմ AI-ն կառուցել զսպման, անկախ վերահսկողության և «վթարային արգելակի» համակարգով, որը թույլ կտա լիազորված անձանց կասեցնել կամ կանգնեցնել մոդելը առաջադրանքի կատարման ընթացքում:bizjournals.com
«Փակ և բաց կշռով առաջադեմ մոդելները որպես ներքին ռիսկ դիտարկելը նման համակարգ կառուցելու միջոց է», գրել է Նադելլան: Նա պնդել է, որ ընկերությունները չեն կարող մոդելի վարքագիծը հետագծել դեպի կոնկրետ կոդ, ինչպես դա անում են ավանդական ծրագրային ապահովման դեպքում: «Եվ այնուամենայնիվ, մենք տեղակայում ենք այս բարդ գործակալային համակարգերն ու մոդելները, որոնք հասանելիություն ունեն մեր ամենազգայուն տվյալներին», ասել է նա:aninews.in+1
«Մենք պետք է ենթադրենք, որ մոդելը վտանգված է և սկզբից իսկ զսպենք այն», գրել է նա՝ հավելելով, որ ավելի առաջադեմ մոդելները կպահանջեն զսպման տեխնոլոգիա, որը արդյունաբերությունը պետք է ստանդարտացնի: Նա ասել է, որ ընկերությունները չպետք է ապավինեն միայն մոդելներ ստեղծող ընկերությունների խոստումներին: Փոխարենը, նա նշել է, որ վերահսկողությունը, թե ինչի հասանելիություն կարող է ունենալ մոդելը և ինչ կարող է անել, պետք է գտնվի հենց մոդելից դուրս:bloomberg.com+2
Նրա շրջանակը ներառում է մեկից ավելի մոդելների օգտագործումը, մոդելի գործողությունների մարդու համար ընթեռնելի գրառումների պահպանումը, համակարգերի շարունակական թեստավորումը, անկախ վերահսկողությունն ու աուդիտը, զսպումը և միջադեպերի բացահայտումը:cnbc.com
Նադելլայի նախազգուշացումները հնչում են այն ժամանակ, երբ Microsoft-ը Windows-ում ներդնում է գործակալների համար անվտանգության գործիքներ: Հոկտեմբերի 7-ին Սան Ֆրանցիսկոյում կայացած Windows և Surface միջոցառման ժամանակ ընկերությունը ներկայացրեց Microsoft Execution Containers-ը, որը նկարագրում է որպես «քաղաքականության վրա հիմնված զսպում AI գործակալների համար»: The Business Journals-ը հայտնում է, որ Նադելլայի կոչը անվտանգության միջոցառումների վերաբերյալ հնչել է այն ժամանակ, երբ Microsoft-ը շարունակում է առաջ մղել իր սեփական AI մոդելները:bizjournals.com+1
Microsoft-ի նախագահ Բրեդ Սմիթը նմանատիպ փաստարկներ է բերել: Նա ITV News-ին ասել է, որ AI-ն «ավելի քիչ է կարգավորվում, քան ձեր լվացքի մեքենան», իսկ BBC-ին տված հարցազրույցում նա կրկնել է վթարային արգելակների կոչը: Այս գաղափարը աջակցություն է ստացել առաջադեմ մոդելների հետ կապված կիբերհարձակումների և այլ միջադեպերի շարքից հետո: Մինչդեռ նախագահ Դոնալդ Թրամփը բազմիցս մերժել է այն մտահոգությունները, որ AI-ն կարող է սպառնալ մարդկությանը և շեշտել է Չինաստանից առաջ անցնելու կարևորությունը:independent.co.uk+1
Նադելլան իր դիրքորոշումը ամփոփել է այսպես. «Ամենավստահելի գերինտելեկտուալ համակարգը չի լինի այն մոդելը, որին մենք ամենաշատն ենք վստահում: Այն կլինի այն համակարգը, որը մեզ թույլ կտա մոդելին ամենաքիչը վստահել»: cnbc.com