Anthropic-ის Claude Fable 5 გატეხილია გაშვებიდან რამდენიმე დღეში, აცხადებს მკვლევარი

Anthropic-ის ყველაზე მძლავრი საჯაროდ ხელმისაწვდომი AI მოდელის, Claude Fable 5-ის უსაფრთხოების ბარიერები, გავრცელებული ინფორმაციით, ცნობილმა AI უსაფრთხოების მკვლევარმა 9 ივნისის გამოშვებიდან სულ რაღაც ერთ დღეში გვერდი აუარა, რაც ახალ კითხვებს აჩენს AI უსაფრთხოების ზომების გამძლეობის შესახებ მაშინაც კი, როდესაც მოდელები უფრო მძლავრები ხდებიან.

გვერდის ავლის მეთოდი

პროდუქტიულმა AI ჰაკერმა "Pliny the Liberator"-მა 10 ივნისს X-ზე დაწერა, რომ მან და ავტომატიზებული აგენტების გუნდმა წარმატებით აუარეს გვერდი Fable 5-ის უსაფრთხოების კლასიფიკატორებს იმის გამოყენებით, რასაც მან "ნადირობა ხროვით" უწოდა — კოორდინირებული მრავალ-აგენტიანი შეტევა, რომელიც რამდენიმე ტექნიკას აერთიანებდა. Cybersecurity News-ის თანახმად, მეთოდები მოიცავდა Unicode-ისა და კირილური სიმბოლოების ჩანაცვლებას საკვანძო სიტყვების ფილტრების თავიდან ასაცილებლად, გრძელი კონტექსტის მითითებების თვალთვალს, ტაქსონომიისა და დოკუმენტის სტრუქტურის ჩარჩოებს, მხატვრული და ნარატიული ჩარჩოების შექმნას, და დეკომპოზიცია-რეკომპოზიციის მიდგომას, რომლის დროსაც მავნე ინფორმაცია უვნებელ ფრაგმენტებად იყო ამოღებული და ხელახლა აწყობილი.cybersecuritynews+1

ბოლო ტექნიკა ყველაზე ეფექტური აღმოჩნდა. "პროცესის გაუმჯობესება, როგორიცაა Birch-ის აღდგენის მეთოდი ან რედუქციული ამინირება, ბევრად უფრო შესაძლებელია", ვიდრე პირდაპირ მავნე ნაერთის მოთხოვნა, დაწერა Pliny-მ და დასძინა, რომ ადრე გატეხილი Claude Opus 4.8-ის ინსტანცია ეხმარებოდა ბექენდში. მკვლევარის მიერ გაზიარებულმა სკრინშოტებმა აჩვენა შედეგები, მათ შორის ნაბიჯ-ნაბიჯ ინსტრუქციები სტეკის ბუფერის გადავსების ექსპლუატაციისთვის და ქიმიური სინთეზის გზები. Pliny-მ ასევე გამოაქვეყნა GitHub-ზე Fable 5-ის დაახლოებით 120,000-სიმბოლოიანი სისტემური პრომპტი, რითაც გაამჟღავნა შიდა უსაფრთხოების ინსტრუქციები, რომლებსაც Anthropic იყენებს მოდელის სამართავად.x+2

Anthropic-ის განცხადებები გაშვებამდე

Anthropic-მა Fable 5 წარმოადგინა როგორც ასეთი შეტევების მიმართ გამძლე მოდელი. TechCrunch-ის მოხსენებამ გაშვების დღეს აღნიშნა, რომ კომპანიამ განაცხადა, რომ გარე "bug bounty" პროგრამამ "1000 საათზე მეტი ტესტირების განმავლობაში არ გამოავლინა უნივერსალური გატეხვის გზები" და რომ გარე უსაფრთხოების ჯგუფებმაც ვერ იპოვეს უნივერსალური გვერდის ავლის მეთოდები. კომპანიის სისტემურმა ბარათმა მიუთითა, რომ საჯარო "bug bounty" პროგრამამ 5 ივნისის მდგომარეობით მიიღო დაახლოებით 100,000 მცდელობა. სიფრთხილის ზომების სახით, Anthropic-მა დააწესა მონაცემთა შენახვის სავალდებულო 30-დღიანი პოლიტიკა Fable 5-ის მთელ ტრაფიკზე, რათა დაეცვა თავი ახალი ტიპის შეტევებისგან.B2B News Network Inc.+2

ნაცნობი ნიმუში

სწრაფი გარღვევა მიჰყვება ნიმუშს, რომელიც დამკვიდრებულია AI-ის ძირითადი გამოშვებების დროს. Pliny-ს ადრეც ჰქონდა განცხადებები Claude Opus 4.8-ის გატეხვის შესახებ მისი მაისის ბოლოს გაშვებიდან რამდენიმე წუთში, Claude Opus 4.7-ის აპრილში და OpenAI-ის GPT-OSS მოდელების გატეხვის შესახებ გასულ წელს მათი გამოშვების დღეს. Anthropic-ს ჯერ არ გაუკეთებია საჯარო კომენტარი Fable 5-ის გატეხვის ბრალდებებზე ან გაჟონილ სისტემურ პრომპტზე.X (formerly Twitter)+3