ProPublica: Anthropic-ის ხელოვნური ინტელექტი Microsoft-ის შეცდომებს იმაზე სწრაფად პოულობს, ვიდრე კომპანია ასწორებს

Anthropic-ის ხელოვნური ინტელექტის მოდელმა Claude Mythos-მა Microsoft ↗ 0.52%-ის პროდუქტებში პროგრამული უზრუნველყოფის დაუცველობების აღმოჩენა ისეთი ტემპით დაიწყო, რომ კომპანია მათ გამოსწორებას ვეღარ ასწრებს, იუწყება ProPublica Microsoft-ის შიდა ჩანაწერებსა და დოკუმენტებზე დაყრდნობით.propublica

მაისის შუა რიცხვებში გამართულ შეხვედრაზე, სახელწოდებით Project Glasswing, Microsoft-ის ინჟინრებმა განიხილეს, თუ როგორ აღმოაჩინა Mythos-მა აპრილში მხოლოდ SharePoint-ში 90 კრიტიკული და 141 მნიშვნელოვანი ხარვეზი, ხოლო მაისის პირველ ნახევარში კიდევ უფრო მეტი. საინჟინრო მენეჯერმა ჰანს ანდერსენმა კოლეგებს მოუწოდა, 31 მაისის ვადის ამოწურვამდე შეემცირებინათ დაგროვილი ხარვეზების რაოდენობა, რადგან ამის შემდეგ Anthropic-ის მოდელი უფრო ფართოდ გახდებოდა ხელმისაწვდომი.propublica

სიტუაცია დაძაბული იყო. როდესაც ერთმა ინჟინერმა იკითხა, ექნებოდათ თუ არა მოწინააღმდეგეებს წვდომა მათ ხარვეზებზე 2 ივნისისთვის, კოლეგებმა დაადასტურეს: "დიახ."

რეკორდული რაოდენობის განახლებები

დაძაბულობა საჯარო გახდა. 14 ივლისს Microsoft-მა თავის ყოველთვიურ განახლებაში 600-ზე მეტი დაუცველობისთვის გამოუშვა პატჩები, რაც აბსოლუტური რეკორდია. თითქმის ყველა მათგანი შეფასდა როგორც მნიშვნელოვანი ან კრიტიკული, ხოლო მინიმუმ ორი მათგანი, მათ შორის SharePoint Server-ის ხარვეზი, უკვე გამოიყენებოდა კიბერშეტევებისთვის.linkedin+2

"აბა, ხალხო. აი, აქ ვართ. შეცდომების აპოკალიფსი სრულად დაგვატყდა თავს," დაწერა Zero Day Initiative-ის წარმომადგენელმა დასტინ ჩაილდსმა იმავე დღეს თავის ბლოგში.thezdi+1

Microsoft-მა ProPublica-ს განუცხადა, რომ ხარვეზების საერთო მოცულობა "ჯერჯერობით არ შემცირდება", თუმცა კომპანიამ "დიდი ინვესტიცია ჩადო როგორც კადრებში, ისე ხელოვნურ ინტელექტზე დაფუძნებულ გადაწყვეტილებებში."propublica

უფრო ფართო სურათი

პრობლემა Microsoft-ის საზღვრებს სცდება. 28 ივლისს Hitachi-მ განაცხადა, რომ Project Glasswing-ში მონაწილეობამ მილიონობით ხაზისგან შემდგარი კოდების საფრთხეების მოდელირება კვირებიდან საათებამდე შეამცირა და აღმოაჩინა დაუცველობები კრიტიკულად მნიშვნელოვან პროგრამულ უზრუნველყოფაში, რაც არსებულმა ინსტრუმენტებმა ვერ შეძლეს.ibtimes

ივნისის ბოლოს Five Eyes-ის სადაზვერვო ალიანსმა გამოსცა უჩვეულო ერთობლივი გაფრთხილება, რომ ხელოვნური ინტელექტის მოდელები "ფუნდამენტურად ცვლიან როგორც შეტევით, ისე თავდაცვით კიბერშესაძლებლობებს" და რომ "ვადები იზომება არა წლებით, არამედ თვეებით".euronews+1

ვინ ნგუენმა, აშშ-ის ეროვნული უსაფრთხოების სააგენტოს (NSA) ყოფილმა მთავარმა ოფიცერმა ხელოვნური ინტელექტის საკითხებში და ამჟამად Anthropic-ის უფროსმა ტექნიკურმა მრჩეველმა, გააფრთხილა, რომ Microsoft-ის სტანდარტული მიდგომა, რომელიც ყველაზე სერიოზულ ხარვეზებს პრიორიტეტს ანიჭებს, შესაძლოა არაადეკვატური იყოს. რადგან Mythos-ს შეუძლია მცირე ხარვეზები გააერთიანოს დამანგრეველ შეტევებად, მან თქვა, რომ "მიმდინარე სტრატეგია შესაძლოა რისკებს არასწორად აფასებდეს".propublica

"ალტერნატივა არ არსებობს," დასძინა ნგუენმა. "პაციენტები სწრაფად და დაუღალავად მოდიან."propublica