Anthropic-მა Amazon-თან, Microsoft-თან და Google-თან ერთად ხელოვნური ინტელექტის ჯეილბრეიკის სიმძიმის სკალა წარადგინა

Anthropic-მა 2 ივლისს გამოაქვეყნა თავისი Cyber Jailbreak Severity-ის ჩარჩო, რომელიც შემუშავდა Amazon-თან, Microsoft -თან და Google-თან ერთად, რათა მოხდეს ხელოვნური ინტელექტის ჯეილბრეიკების შეფასების სტანდარტიზაცია.letsdatascience+1
CJS სკალა აფასებს ჯეილბრეიკებს CJS-0-დან CJS-4-მდე ოთხი ღერძის მიხედვით — შესაძლებლობების ზრდა, მასშტაბი, იარაღად გამოყენების სიმარტივე და აღმოჩენადობა — ქულებით, რომელთა გაზრდა შესაძლებელია, მაგრამ შემცირება — არა.cybersecuritynews+1
Fable 5 გლობალურად დაბრუნდა 1 ივლისს, 19-დღიანი საექსპორტო კონტროლის შეჩერების შემდეგ, ახალი უსაფრთხოების კლასიფიკატორებით, რომლებიც კიბერუსაფრთხოების მოთხოვნებს ანაწილებს ოთხ რისკ-დონეზე და არა სრულ ბლოკირებაზე.marktechpost+1

Anthropic-მა გლობალურად განაახლა თავისი Claude Fable 5 მოდელის მუშაობა მას შემდეგ, რაც აშშ-ის ვაჭრობის დეპარტამენტმა მოხსნა საექსპორტო კონტროლი, რის გამოც ხელოვნური ინტელექტის სისტემა 19 დღის განმავლობაში გათიშული იყო. ოთხშაბათს კომპანიამ ასევე გამოაქვეყნა ახალი ინდუსტრიული ჩარჩო ხელოვნური ინტელექტის ჯეილბრეიკების სიმძიმის შესაფასებლად.

საექსპორტო აკრძალვიდან განახლებამდე

ვაჭრობის დეპარტამენტმა 12 ივნისს დააწესა საექსპორტო კონტროლი Fable 5-სა და უფრო მძლავრ Mythos 5 მოდელზე მას შემდეგ, რაც Amazon-ის (Amazon.com, Inc. ) მკვლევარებმა აღმოაჩინეს ჯეილბრეიკის ტექნიკა, რომელიც Fable 5-ს აიძულებდა პროგრამული უზრუნველყოფის დაუცველობების იდენტიფიცირებას და, ერთ შემთხვევაში, ექსპლოიტ-დემონსტრაციული კოდის დაწერას. ბრძანება მოჰყვა Amazon-ის აღმასრულებელი დირექტორის, ენდი ჯასის სატელეფონო ზარს ფინანსთა მინისტრ სკოტ ბესენტთან ამ აღმოჩენის შესახებ.letsdatascience+1

ვაჭრობის მინისტრმა ჰოვარდ ლატნიკმა 30 ივნისს დათარიღებულ წერილში ოფიციალურად გააუქმა შეზღუდვები და განაცხადა, რომ არცერთი მოდელის ექსპორტისთვის, რეექსპორტისთვის ან ქვეყნის შიგნით გადაცემისთვის ლიცენზია „აღარ არის საჭირო“. სანაცვლოდ, Anthropic დათანხმდა უსაფრთხოების რისკების პროაქტიულად გამოვლენასა და მოგვარებაზე, მომავალი მოდელებისთვის სტანდარტების შემუშავებაში დახმარებასა და მთავრობისთვის მავნე აქტივობების შესახებ შეტყობინებაზე. Anthropic-მა აღდგენა დაადასტურა იმავე საღამოს X-ზე და Fable 5 გლობალურად დაუბრუნდა მომხმარებლებს 1 ივლისს Claude.ai-ს, Claude Code-ისა და Claude Cowork-ის მეშვეობით.thenextweb+3

კიბერუსაფრთხოების იერარქიული მიდგომა

2 ივლისს Anthropic-მა გამოაქვეყნა დეტალური დოკუმენტაცია Fable 5-ის უსაფრთხოების კლასიფიკატორების შესახებ, რომლებიც კიბერუსაფრთხოების მოთხოვნებს ანაწილებს ოთხ კატეგორიად, ნაცვლად იმისა, რომ დაბლოკოს უსაფრთხოებასთან დაკავშირებული ყველა შეკითხვა. გამოსასყიდი პროგრამების (ransomware) შემუშავება, მავნე პროგრამების გავრცელება და კრიტიკულ ინფრასტრუქტურაზე თავდასხმები ყოველთვის იბლოკება, ხოლო პენეტრაციული ტესტირება და ექსპლოიტების შემუშავება რჩება შეზღუდული ავტორიზაციის უკეთესი კონტროლის დანერგვამდე. თავდაცვითი ამოცანები, როგორიცაა უსაფრთხო კოდირება, პატჩების მართვა და უსაფრთხოების შესახებ განათლება, ნაგულისხმევად დაშვებულია.cybersecuritynews+1

კლასიფიკატორების გამჟღავნებასთან ერთად, Anthropic-მა გამოუშვა თავისი Cyber Jailbreak Severity-ის ჩარჩოს ადრეული პროექტი, რომელიც შემუშავდა პარტნიორებთან, მათ შორის Amazon-თან, Microsoft -თან და Google Alphabet Inc. -თან ერთად Glasswing-ის თანამშრომლობის ფარგლებში. CJS სკალა აფასებს ჯეილბრეიკებს CJS-0-დან (საინფორმაციო) CJS-4-მდე (კრიტიკული) ოთხი ღერძის მიხედვით: შესაძლებლობების ზრდა, მასშტაბი, იარაღად გამოყენების სიმარტივე და აღმოჩენადობა. ქულების გაზრდა შესაძლებელია, მაგრამ შემცირება — არა. Anthropic-მა გახსნა უკუკავშირის არხი [email protected] და მკვლევარებისთვის გაუშვა სპეციალური HackerOne-ის ბაგ-ბაუნთის პროგრამა.cyberpress+2

სააბონენტო წვდომა და რა იქნება შემდეგ

გაშვებას თან ახლავს ფასების პირობა. Pro, Max, Team და ზოგიერთი Enterprise აბონენტს შეუძლია გამოიყენოს Fable 5 თავისი ყოველკვირეული ლიმიტების 50 პროცენტამდე 7 ივლისამდე დამატებითი საფასურის გარეშე. ამ თარიღის შემდეგ, Fable 5-ის თითოეული ტოკენი გადადის გამოყენებაზე დაფუძნებულ ანგარიშსწორებაზე სტანდარტული API ტარიფებით — 10 აშშ დოლარი მილიონ შემავალ ტოკენზე და 50 აშშ დოლარი მილიონ გამავალ ტოკენზე — მანამ, სანამ სიმძლავრეები არ დაუშვებს სრულ დაბრუნებას პაკეტურ გამოწერებზე. ასევე აღდგება ღრუბლოვანი ბაზრის წვდომა AWS-ის, Google Cloud-ისა და Microsoft Foundry-ის მეშვეობით.marktechpost+2

წყაროები (15)