ბრიტანულმა სააგენტომ აღმოაჩინა, რომ ჯეილბრეიკები GPT-5.6-ის კიბერშესაძლებლობებს OpenAI-ის გაშვებამდე ხსნიდა

დიდი ბრიტანეთის ხელოვნური ინტელექტის უსაფრთხოების ინსტიტუტმა (UK AISI) OpenAI-ის GPT-5.6 Sol-ში აღმოაჩინა "უნივერსალური ჯეილბრეიკები", რომლებმაც შეტევითი კიბერშესაძლებლობები გახსნა, ნათქვამია მოდელის სისტემურ ბარათში.deploymentsafety.openai+1
OpenAI აცხადებს, რომ მოდელის ხუთშაბათს ფართო მასშტაბით გაშვებამდე მან აღკვეთა კონკრეტული ჯეილბრეიკები და 700 000-ზე მეტი GPU საათი დაუთმო ავტომატიზებულ რედ-თიმინგს.deploymentsafety.openai+1
კრიტიკოსები სვამენ კითხვას, თუ რატომ გაეშვა GPT-5.6 ფართოდ, მაშინ როდესაც Anthropic-ის Fable 5-ში მსგავსმა ხარვეზმა გასულ თვეში აშშ-ის საექსპორტო კონტროლის ფარგლებში მოდელის გათიშვა გამოიწვია.nile1+1

დიდი ბრიტანეთის ხელოვნური ინტელექტის უსაფრთხოების ინსტიტუტის (UK AISI) მიერ 9 ივლისს გამოქვეყნებული მოდელის სისტემური ბარათის თანახმად, ინსტიტუტმა OpenAI-ის GPT-5.6 Sol-ში აღმოაჩინა "უნივერსალური ჯეილბრეიკები", რომლებმაც სახიფათო კიბერშესაძლებლობები გახსნა. ეს აღმოჩენა ბადებს კითხვებს იმის შესახებ, თუ რატომ მიიღო მოდელმა ამ კვირაში ფართო საჯარო გაშვება, მაშინ როდესაც Anthropic-ის Fable 5-ში მსგავსმა მოწყვლადობამ სულ რაღაც რამდენიმე კვირით ადრე აშშ-ის საექსპორტო კონტროლის ზომები გამოიწვია.deploymentsafety.openai+1

რა აღმოაჩინა UK AISI-მ

დანერგვამდე ტესტირებისას, UK AISI-მ კიბერ სფეროში აღმოაჩინა ჯეილბრეიკები, რომლებიც "იძლეოდა აგენტური დავალებების სრულად შესრულების საშუალებას" ისეთ სფეროებში, როგორიცაა მოწყვლადობის აღმოჩენა და ექსპლოიტების შემუშავება. სააგენტომ დაადგინა, რომ GPT-5.6 Sol-ი შეტევითი უსაფრთხოების ამოცანებში მნიშვნელოვნად უკეთესად მუშაობდა, ვიდრე მისი წინამორბედი, და 10-დან 7 გრძელვადიანი კიბერ-გამოწვევა დაასრულა, მაშინ როდესაც GPT-5.5-მა მხოლოდ 2 დაასრულა. UK AISI-მ დაასკვნა, რომ მოდელი შესაძლოა מסוגლებელი იყოს სუსტი უსაფრთხოების მქონე მცირე საწარმოო ქსელებზე თავდასხმისთვის.deploymentsafety.openai+2

OpenAI-მ განაცხადა, რომ გაშვებამდე გაიმეორა და აღკვეთა UK AISI-ს მიერ მოხსენებული კონკრეტული ჯეილბრეიკები და 700 000-ზე მეტი A100e GPU საათი დაუთმო უნივერსალური ჯეილბრეიკების ავტომატიზებულ რედ-თიმინგს. კომპანიამ თავის სისტემურ ბარათში აღიარა, რომ სავარაუდოდ, მომავალშიც გამოჩნდება ახალი ჯეილბრეიკები და პირობა დადო, რომ დანერგვის პროცესში გააგრძელებს ავტომატიზებულ რედ-თიმინგს.deploymentsafety.openai+2

პარალელები Anthropic-ის Fable 5-თან

ეს აღმოჩენა პირდაპირ პარალელს ავლებს იმ კრიზისთან, რომელიც გასულ თვეში Anthropic-ს შეეხო. 12 ივნისს აშშ-ის ვაჭრობის დეპარტამენტმა Anthropic-ს უბრძანა, გლობალურად გაეთიშა თავისი Fable 5 და Mythos 5 მოდელები მას შემდეგ, რაც გავრცელდა ინფორმაცია, რომ ჯეილბრეიკს შეეძლო Fable 5-ში მოწინავე კიბერუსაფრთხოების შესაძლებლობების გახსნა, რაც ფაქტობრივად სამომხმარებლო AI პროდუქტს შეტევით ინსტრუმენტად აქცევდა. გავრცელებული ინფორმაციით, Amazon Amazon.com, Inc. -ის მკვლევრებმა გამოიყენეს Fable 5 ისეთი ინფორმაციის შესაგროვებლად, რამაც შესაძლოა ხელი შეუწყოს კიბერშეტევებს, რამაც ვაჭრობის მდივანი ჰოვარდ ლატნიკი აიძულა გამოეყენებინა საექსპორტო კონტროლის უფლებამოსილება.forbes+1

ეს კონტროლი 30 ივნისს მოიხსნა მას შემდეგ, რაც Anthropic-მა მთავრობასთან ერთად იმუშავა რისკების აღმოსაფხვრელად. თუმცა, კრიტიკოსები აღნიშნავენ, რომ GPT-5.6 ფართოდ გაეშვა 10 ივლისს, მიუხედავად იმისა, რომ UK AISI-მ მსგავსი კლასის მოწყვლადობა აღმოაჩინა.cnbc+3

განსხვავებული შედეგები, იგივე რისკები

OpenAI აფასებს GPT-5.6 Sol-ს, როგორც "მაღალი" შესაძლებლობების მქონეს კიბერუსაფრთხოების კუთხით თავისი მზადყოფნის ჩარჩოს მიხედვით, მაგრამ აცხადებს, რომ მოდელი არ აღწევს "კრიტიკულ" დონეს, რადგან მას არ შეუძლია ავტონომიურად განახორციელოს სრული ციკლის თავდასხმები დაცულ სამიზნეებზე. კომპანიის მრავალშრიანი უსაფრთხოების სტეკი მოიცავს აქტივაციის კლასიფიკატორებს, რომლებიც ერევიან გენერირების პროცესში და ახორციელებენ გამომავალი მონაცემების რეალურ დროში სკანირებას.helpnetsecurity+3

მარეგულირებელმა განსხვავებულმა რეაქციებმა — საექსპორტო კონტროლი Anthropic-ისთვის და დამტკიცებული გაშვება OpenAI-ისთვის — გამოიწვია დებატები AI უსაფრთხოების მკვლევრებს შორის მთავრობის მიერ შეტევითი კიბერპოტენციალის მქონე სასაზღვრო მოდელების ზედამხედველობის თანმიმდევრულობის შესახებ.nile1

Sources (28)