OpenAI-ის GPT-5.6-ის ჩაშვებამდე ბრიტანეთმა კიბერშესაძლებლობების განბლოკვის ხარვეზები აღმოაჩინა

9 ივლისს გამოქვეყნებული მოდელის სისტემური ბარათის თანახმად, დიდი ბრიტანეთის ხელოვნური ინტელექტის უსაფრთხოების ინსტიტუტმა OpenAI-ის GPT-5.6 Sol-ში „უნივერსალური ჯეილბრეიკები“ გამოავლინა, რომლებმაც სახიფათო კიბერშესაძლებლობები განბლოკა. ეს აღმოჩენა აჩენს კითხვებს იმის შესახებ, თუ რატომ ჩაეშვა მოდელი ფართო მოხმარებაში ამ კვირაში, მაშინ როცა სულ რამდენიმე კვირით ადრე Anthropic-ის Fable 5-ში მსგავსმა მოწყვლადობამ აშშ-ის მხრიდან ექსპორტის კონტროლის ამოქმედება გამოიწვია.deploymentsafety.openai+1

რა აღმოაჩინა დიდი ბრიტანეთის AI უსაფრთხოების ინსტიტუტმა

გაშვებამდელ ტესტირებაში, ბრიტანულმა უწყებამ კიბერსივრცეში ჯეილბრეიკები აღმოაჩინა, რომლებიც იძლეოდა „ხანგრძლივი აგენტური ამოცანების შესრულების საშუალებას“, მათ შორის მოწყვლადობების გამოვლენასა და ექსპლოიტების შემუშავებაში. ინსტიტუტის დასკვნით, GPT-5.6 Sol შეტევითი უსაფრთხოების დავალებებს თავის წინამორბედზე გაცილებით უკეთ ასრულებდა: მან კიბერპოლიგონის 10 ხანგრძლივი გამოწვევიდან 7 წარმატებით დაძლია, მაშინ როცა GPT-5.5-მა მხოლოდ 2-ის დაძლევა შეძლო. სააგენტომ დაასკვნა, რომ მოდელს შესაძლოა სუსტი უსაფრთხოების მქონე მცირე მასშტაბის საწარმოო ქსელებზე შეტევის უნარი ჰქონდეს.deploymentsafety.openai+2

OpenAI-ის განცხადებით, მან ბრიტანული მხარის მიერ დაფიქსირებული კონკრეტული ხარვეზების რეპროდუცირება და აღმოფხვრა გაშვებამდე მოასწრო, რისთვისაც უნივერსალური ჯეილბრეიკების ავტომატიზებულ შემოწმებას A100e GPU-ს 700,000 საათზე მეტი დაუთმო. კომპანიამ თავის სისტემურ ბარათში აღიარა, რომ მომავალში ახალი ჯეილბრეიკების გამოჩენა სავარაუდოა და პირობა დადო, რომ პროდუქტის გამოყენების პროცესში ავტომატიზებულ ტესტირებას განაგრძობს.deploymentsafety.openai+2

პარალელები Anthropic-ის Fable 5-თან

ეს აღმოჩენა პირდაპირ პარალელს ავლებს იმ კრიზისთან, რომელშიც Anthropic გასულ თვეს აღმოჩნდა. 12 ივნისს აშშ-ის ვაჭრობის დეპარტამენტმა Anthropic-ს მოსთხოვა მთელ მსოფლიოში გაეთიშა Fable 5 და Mythos 5 მოდელები მას შემდეგ, რაც გავრცელდა ინფორმაცია, რომ ჯეილბრეიკს Fable 5-ში მოწინავე კიბერუსაფრთხოების შესაძლებლობების განბლოკვა შეეძლო, რაც სამომხმარებლო AI პროდუქტს ფაქტობრივად შეტევით ინსტრუმენტად აქცევდა. გავრცელებული ცნობებით, Amazon Amazon.com, Inc. ↘ 0.35%-ის მკვლევრებმა Fable 5 გამოიყენეს ისეთი ინფორმაციის შესაგროვებლად, რაც კიბერშეტევებს გააადვილებდა, რამაც ვაჭრობის მდივანს, ჰოვარდ ლატნიკს, ექსპორტის კონტროლის უფლებამოსილების გამოყენებისკენ უბიძგა.forbes+1

აღნიშნული შეზღუდვები 30 ივნისს მოიხსნა მას შემდეგ, რაც Anthropic-მა მთავრობასთან ერთად იმუშავა რისკების შემცირებაზე. თუმცა კრიტიკოსები აღნიშნავენ, რომ GPT-5.6 ფართო მოხმარებაში 10 ივლისს მაინც ჩაეშვა, მიუხედავად იმისა, რომ ბრიტანეთის უსაფრთხოების ინსტიტუტმა მსგავსი ტიპის მოწყვლადობა აღმოაჩინა.cnbc+3

განსხვავებული შედეგები, იგივე რისკები

საკუთარი მზადყოფნის ჩარჩოს (Preparedness Framework) მიხედვით, OpenAI GPT-5.6 Sol-ს კიბერუსაფრთხოების სფეროში „მაღალი“ (High) შესაძლებლობის მოდელად აფასებს, თუმცა აცხადებს, რომ ის ვერ აღწევს „კრიტიკულ“ (Critical) დონეს, რადგან არ შეუძლია დაცულ სამიზნეებზე სრული ციკლის შეტევების ავტონომიურად განხორციელება. კომპანიის მრავალშრიანი უსაფრთხოების სისტემა მოიცავს აქტივაციის კლასიფიკატორებს, რომლებიც გენერირების პროცესში ერევიან, და შედეგების რეალურ დროში სკანირებას.helpnetsecurity+3

მარეგულირებლების განსხვავებულმა რეაგირებამ, Anthropic-ის შემთხვევაში ექსპორტის კონტროლმა, ხოლო OpenAI-ის შემთხვევაში ჩაშვების დამტკიცებამ, AI უსაფრთხოების მკვლევრებს შორის დისკუსია გამოიწვია შეტევითი კიბერპოტენციალის მქონე წამყვანი მოდელების სახელმწიფო ზედამხედველობის თანმიმდევრულობის შესახებ.nile1