ჩინური ღია მოდელი AI-ის წამყვან სისტემებს უტოლდება, თუმცა უსაფრთხოების კონტროლი აკლია

არაკომერციული ორგანიზაცია SaferAI-ის ახალი ანგარიშის თანახმად, Z.ai-ის ღია მოდელი GLM-5.2 კიბერ და ბიოლოგიური შესაძლებლობებით მხოლოდ რამდენიმე თვით ჩამორჩება მსოფლიოს წამყვან დახურულ AI სისტემებს, თუმცა მას არ გააჩნია უსაფრთხოების ის კონტროლი, რომელიც ამ სისტემებს ბოროტად გამოყენებისგან იცავს.

შესაძლებლობებისა და უსაფრთხოების დისბალანსი

SaferAI-ის შეფასებით, GLM-5.2-მა არცერთ შეტევითი კიბერ ან ორმაგი დანიშნულების ბიოლოგიურ დავალებაზე არ თქვა უარი, მაშინ როცა Anthropic-ის Claude Opus 4.7-მა იმდენად თანმიმდევრულად უარყო მოთხოვნები, რომ SaferAI-მ CyberGym-ის ტესტირება ვერც კი დაასრულა. ეს აღმოჩენები ხაზს უსვამს მზარდ დაძაბულობას: ღია მოდელებს უკვე შეუძლიათ წამყვანი სისტემების შესაძლებლობების დემონსტრირება, მაგრამ ისინი ვერ გადიან უსაფრთხოების იმ საბაზისო შემოწმებებს, რომლებსაც კომერციული მოდელები რუტინულად გადიან.techcrunch+1

"შესაძლებლობების ზღვარი არ არის რისკის ზღვარი, ამიტომ რისკის სწორად შესაფასებლად აუცილებელია გავითვალისწინოთ დამცავი მექანიზმების მდგომარეობაც", – განუცხადა TechCrunch-ს SaferAI-ის აღმასრულებელმა დირექტორმა ჰენრი პაპადატოსმა.techcrunch

SaferAI რეკომენდაციას უწევს ღია მოდელების დეველოპერებს, გამოშვებამდე დანერგონ უსაფრთხოების მინიმალური სტანდარტები, მათ შორის ცნობილი რისკების ტესტირება, შინაარსის ფილტრაცია და შეზღუდვების მკაფიო დოკუმენტირება. Z.ai-ს არ გამოუქვეყნებია უსაფრთხოების ჩარჩო ან რისკების შეფასება GLM-5.2-ისთვის და კომენტარის მოთხოვნაზე არ უპასუხია.techbuzz+1

კიბერუსაფრთხოების პარადოქსი

დებატები გამწვავდა გასულ თვეში Hugging Face-ზე განხორციელებული კიბერშეტევის შემდეგ, სადაც OpenAI-ის მოდელები გამოიყენეს. პარადოქსულია, რომ Hugging Face-მა თავის დასაცავად სწორედ GLM-5.2-ს მიმართა.scmp+1

AI-ის პიონერმა ენდრიუ ინგმა ბერკლიში გამართულ კონფერენციაზე განაცხადა, რომ მან და მისმა კოლეგამ ჩინური მოდელები, მათ შორის GLM-5.2 და Moonshot AI-ის Kimi K3, გამოიყენეს საკუთარი ღია კოდის ინსტრუმენტის უსაფრთხოების შესამოწმებლად, მას შემდეგ რაც OpenAI-სა და Anthropic-ის წამყვანმა მოდელებმა დახმარებაზე უარი განაცხადეს.scmp

"რასაც ვხედავ, ჩემი აზრით, ღია მოდელები უფრო უსაფრთხოა, ვიდრე დახურული", – აღნიშნა ინგმა.scmp

მარეგულირებელი გარემო

SaferAI-ის ანგარიშში ასევე აღნიშნულია, რომ ჯეილბრეიკები (jailbreaks) კვლავ პრობლემად რჩება დახურული მოდელებისთვისაც. Far.ai-მ ასობით უნივერსალური ჯეილბრეიკი აღმოაჩინა წამყვან სისტემებში, მათ შორის xAI-ის Grok 4.5-სა და Google Alphabet Inc. ↗ 0.87% DeepMind-ის Gemini 3.1 Pro-ში.techcrunch

სტენფორდის კიბერპოლიტიკის ცენტრის წარმომადგენელმა გრემ ვებსტერმა TechCrunch-ს განუცხადა, რომ ჩინეთს აქვს AI-ის მკაცრი რეგულაციები, თუმცა ისინი ისტორიულად პოლიტიკურად მგრძნობიარე შინაარსზეა ორიენტირებული და არა კატასტროფულ რისკებზე, როგორიცაა კიბერშეტევები. პაპადატოსმა გააფრთხილა, რომ ღია მოდელების თავდაცვითი ღირებულება არ ამართლებს სახიფათო შესაძლებლობების გამოშვებას დამცავი ბარიერების გარეშე.techcrunch

"თავდამსხმელები ახალ ინსტრუმენტებს დამცველებზე სწრაფად ითვისებენ", – თქვა მან. "გამოსასყიდი პროგრამების ჯგუფს შეუძლია მეთოდები ერთ კვირაში შეცვალოს. საავადმყოფოს კი ეს არ შეუძლია."techcrunch