Microsoft-ის ნადელა: AI აგენტები შიდა საფრთხეს წარმოადგენს

Microsoft-ის აღმასრულებელი დირექტორი სატია ნადელა ცდილობს, რომ AI აგენტებმა პერსონალურ კომპიუტერებში გაცილებით მეტი სამუშაო შეასრულონ, თუმცა ამავდროულად აცხადებს, რომ მათ ბრმად არ უნდა ვენდოთ. NBC News-ისთვის მიცემულ ექსკლუზიურ ინტერვიუში მან აღნიშნა, რომ Windows უნდა გახდეს ყველაზე უსაფრთხო და მძლავრი ოპერაციული სისტემა AI აგენტებისთვის, მიუხედავად იმ რისკებისა, რაც მათ თან ახლავს.nbcnews.com

ინტერვიუ მოჰყვა ნადელას მიერ 10 ოქტომბერს, შაბათს, X-ზე გამოქვეყნებულ ესეს. მასში მან მოუწოდა, რომ მოწინავე ხელოვნური ინტელექტი შეიქმნას შეზღუდვების, დამოუკიდებელი კონტროლისა და "ავარიული დამუხრუჭების" მექანიზმით, რომელიც უფლებამოსილ პირებს საშუალებას მისცემს, მოდელი დავალების შესრულების პროცესში შეაჩერონ.bizjournals.com

ენდეთ მოდელს ყველაზე ნაკლებად

"დახურული და ღია ტიპის მოწინავე მოდელების შიდა საფრთხედ განხილვა ასეთი სისტემის აგების ერთ-ერთი გზაა," წერს ნადელა. მან აღნიშნა, რომ კომპანიებს არ შეუძლიათ მოდელის ქცევის მიკვლევა კონკრეტულ კოდამდე ისე, როგორც ეს ტრადიციული პროგრამული უზრუნველყოფის შემთხვევაშია შესაძლებელი. "მიუხედავად ამისა, ჩვენ ვნერგავთ ამ კომპლექსურ აგენტურ სისტემებსა და მოდელებს, რომლებსაც წვდომა აქვთ ჩვენს ყველაზე მგრძნობიარე მონაცემებზე," განაცხადა მან.aninews.in+1

"ჩვენ უნდა ვივარაუდოთ, რომ მოდელი კომპრომეტირებულია და თავიდანვე უნდა შევზღუდოთ ის," წერს ის და დასძენს, რომ უფრო მოწინავე მოდელებს დასჭირდებათ შეზღუდვის ტექნოლოგია, რომელიც ინდუსტრიამ უნდა დააკანონოს. მისი თქმით, კომპანიებმა არ უნდა დაეყრდნონ მხოლოდ მოდელების შემქმნელთა დაპირებებს. ნაცვლად ამისა, კონტროლი იმაზე, თუ რისი წვდომა და გაკეთება შეუძლია მოდელს, თავად მოდელის გარეთ უნდა არსებობდეს.bloomberg.com+2

მისი ჩარჩო მოიცავს რამდენიმე მოდელის გამოყენებას, მოდელის ქმედებების ადამიანისთვის გასაგებ ჩანაწერს, სისტემების უწყვეტ ტესტირებას, დამოუკიდებელ კონტროლს და აუდიტს, შეზღუდვებს და ინციდენტების გამჟღავნებას.cnbc.com

Windows როგორც აგენტური პლატფორმა

ნადელას გაფრთხილებები იმ დროს ჟღერს, როდესაც Microsoft-ი Windows-ში აგენტებისთვის უსაფრთხოების ინსტრუმენტებს ნერგავს. 7 ოქტომბერს, სან-ფრანცისკოში გამართულ Windows-ისა და Surface-ის ღონისძიებაზე, კომპანიამ წარადგინა Microsoft Execution Containers, რომელსაც "AI აგენტებისთვის პოლიტიკაზე დაფუძნებულ შეზღუდვას" უწოდებს. The Business Journals-ის ცნობით, ნადელას მოწოდება უსაფრთხოების ზომების შესახებ მაშინ გაჟღერდა, როდესაც Microsoft-ი საკუთარი AI მოდელების განვითარებას აგრძელებს.bizjournals.com+1

უსაფრთხოების ფართო პოლიტიკა

Microsoft-ის პრეზიდენტმა ბრედ სმიტმა მსგავსი არგუმენტები მოიყვანა. მან ITV News-ს განუცხადა, რომ ხელოვნური ინტელექტი "უფრო ნაკლებად რეგულირებადია, ვიდრე თქვენი სარეცხი მანქანა," ხოლო BBC-სთან ინტერვიუში მან კვლავ გაიმეორა მოწოდება ავარიული დამუხრუჭების მექანიზმის შესახებ. ეს იდეა მხარდაჭერას იძენს კიბერშეტევებისა და სხვა ინციდენტების სერიის შემდეგ, რომლებიც მოწინავე მოდელებს უკავშირდება. ამასობაში, პრეზიდენტმა დონალდ ტრამპმა არაერთხელ უარყო შეშფოთება იმის შესახებ, რომ AI-მ შესაძლოა საფრთხე შეუქმნას კაცობრიობას და ხაზი გაუსვა ჩინეთზე წინ ყოფნის აუცილებლობას.independent.co.uk+1

ნადელამ თავისი პოზიცია ასე შეაჯამა: "ყველაზე სანდო სუპერინტელექტუალური სისტემა არ იქნება ის, რომლის მოდელსაც ყველაზე მეტად ვენდობით. ეს იქნება ის სისტემა, რომელიც საშუალებას მოგვცემს, მოდელს ყველაზე ნაკლებად ვენდოთ".cnbc.com