OpenAI-ის ბროკმანი აფრთხილებს: Z.ai-ის GLM-5.3 კიბერსაფრთხეებს მკვეთრად გაზრდის

ჩინურმა ხელოვნური ინტელექტის ლაბორატორიამ Z.ai-მ 14 აგვისტოს გამოაცხადა, რომ ორი კვირით გადადებდა თავისი GLM-5.3 მოდელის ღია წონების გამოშვებას მას შემდეგ, რაც სისტემამ პროგრამული უზრუნველყოფის მოწყვლადობების აღმოჩენისა და გამოყენების მოულოდნელად ძლიერი უნარი გამოავლინა. ამ გადაწყვეტილებამ მიიპყრო OpenAI-ის პრეზიდენტის, გრეგ ბროკმანის ყურადღება, რომელმაც გააფრთხილა საზოგადოება, რომ მოდელი, სავარაუდოდ, „მნიშვნელოვნად დააჩქარებს საფრთხის გარემოს“.buttondown+2

მოდელი, რომელმაც საკუთარი შემქმნელებიც კი გააოცა

Z.ai-ის განცხადებით, GLM-5.3 აგებულია იმავე საბაზისო არქიტექტურაზე, რომელზეც მისი წინამორბედი GLM-5.2, ხოლო ეფექტურობის ყველა გაუმჯობესება მიღწეულია პოსტ-ტრენინგის ეტაპზე და არა სრული ხელახალი სწავლებით. კომპანიამ მოდელს დაამატა მოწყვლადობის მონაცემები ხარვეზების უკეთ აღმოსაჩენად, თუმცა ამის ნაცვლად მიიღო მრავალეტაპიანი ექსპლოიტების ჯაჭვები, რასაც, მათი თქმით, საერთოდ არ გეგმავდნენ. შიდა ტესტირებაში (CyberGym), GLM-5.3-მა პროგრამული უზრუნველყოფის ცნობილი ხარვეზები 84.5%-იანი სიზუსტით აღმოაჩინა, წინა მოდელის 77.2%-თან შედარებით, ხოლო ექსპლოიტების შეფასების ქულა ორჯერ მეტად გაზარდა.instagram+2

Z.ai-ის განცხადებით, GLM მოდელებმა უკვე გამოავლინეს 2,400-ზე მეტი უსაფრთხოების ხარვეზი, მათ შორის 1,000-ზე მეტი კრიტიკული ან მაღალი სიმძიმის კატეგორიისაა. ზოგიერთი მათგანი აღმოჩენილია Linux-ის ბირთვში და ფართოდ გამოყენებად VMware Broadcom Inc. ↘ 1.39% და Apache-ის პროექტებში. კომპანია შერჩეულ უსაფრთხოების პარტნიორებს სთავაზობს ეტაპობრივ წვდომას კონტროლირებად გარემოში, ხოლო უფრო ფართო API წვდომა და ჩამოსატვირთი წონები ხელმისაწვდომი გახდება მას შემდეგ, რაც დასრულდება უსაფრთხოების შეფასება.instagram+2

განგაში ინდუსტრიაში

ბროკმანმა, რომელიც ამ განცხადებით გამოეხმაურა ბოლოდროინდელ კიბერშეტევას OpenAI-სა და Hugging Face-ზე, მოუწოდა კომპანიებს დაუყოვნებლივ იმოქმედონ. მან ამ მომენტს კიბერუსაფრთხოებისთვის „გადამწყვეტი“ უწოდა და აღნიშნა, რომ GLM-5.3-ის ღია წონები, რომელთა გამოშვებაც აგვისტოს ბოლოს იგეგმება, უახლოეს მომავალში საფრთხის ესკალაციას გამოიწვევს. მან ურჩია უსაფრთხოების გუნდებს, დანერგონ აგენტური ხელოვნური ინტელექტის ინსტრუმენტები კოდების ბაზებსა და ინფრასტრუქტურაზე ავტორიზებული წვდომით, დაწყებული ყველაზე მაღალი პრიორიტეტის მქონე სისტემებით.artificialintelligence-news+1

ეს გაფრთხილება ეხმიანება OpenAI-ის გენერალური დირექტორის, სემ ალტმანისა და Anthropic-ის გენერალური დირექტორის, დარიო ამოდეის მიერ გამოთქმულ შეშფოთებას, რომლებმაც ასევე მიუთითეს საკუთარი მოწინავე მოდელების კიბერშესაძლებლობებზე, როგორც მზარდ რისკზე.timesnownews

ღია წონები, ღია კითხვები

Z.ai-მ გამოშვების გადადება პასუხისმგებლიან ნაბიჯად შეაფასა და აღნიშნა, რომ „ღია სამყაროს არ შეიძლება ჰქონდეს მხოლოდ ღია თავდასხმის ზედაპირები“, არამედ მას ასევე სჭირდება „ღია ფარი“. მიუხედავად ამისა, აქამდე მოყვანილი ყველა სატესტო მაჩვენებელი თავად Z.ai-ს ეკუთვნის. ვინაიდან წონები ჯერ არ გამოქვეყნებულა, დამოუკიდებელ მკვლევრებს შედეგები არ გადაუმოწმებიათ. მოდელის საჯარო გამოშვება, რომელიც ახლა 28 აგვისტოსთვის არის დაგეგმილი, აჩვენებს, რამდენად რეალურია ეს განცხადებები და შეძლებენ თუ არა დამცველები ფეხი აუწყონ იმ შესაძლებლობებს, რომლებსაც ეს მოდელი იძლევა.remio+2