Anthropic, Amazon, Microsoft ve Google ile birlikte yapay zeka jailbreak ciddiyet ölçeğini tanıttı

Anthropic, yapay zeka jailbreak'lerinin derecelendirilmesini standartlaştırmak için Amazon, Microsoft ve Google ile birlikte geliştirdiği Siber Jailbreak Ciddiyet çerçevesini 2 Temmuz'da yayınladı.letsdatascience+1
CJS ölçeği, jailbreak'leri CJS-0'dan CJS-4'e kadar dört eksende (yetenek kazanımı, kapsam, silah haline getirme kolaylığı ve keşfedilebilirlik) puanlıyor; puanlar artırılabiliyor ancak asla düşürülemiyor.cybersecuritynews+1
Fable 5, 19 günlük ihracat kontrolü dondurmasının ardından 1 Temmuz'da küresel olarak geri döndü ve siber güvenlik taleplerini genel engellemeler yerine dört risk seviyesine ayıran yeni güvenlik sınıflandırıcılarıyla birlikte geldi.marktechpost+1

Anthropic, ABD Ticaret Bakanlığı'nın yapay zeka sistemini 19 gün boyunca çevrimdışı tutan ihracat kontrollerini kaldırmasının ardından Claude Fable 5 modelini küresel olarak yeniden kullanıma sundu ve Çarşamba günü yapay zeka jailbreak'lerinin ciddiyetini derecelendirmek için yeni bir endüstri çerçevesi yayınladı.

İhracat Yasağından Yeniden Kullanıma

Ticaret Bakanlığı, Amazon (Amazon.com, Inc. ) araştırmacılarının Fable 5'i yazılım açıklarını işaretlemeye ve bir örnekte exploit-gösterim kodu yazmaya ikna eden bir jailbreak tekniği keşfetmesinin ardından 12 Haziran'da Fable 5 ve daha yetenekli Mythos 5 modeli üzerinde ihracat kontrolleri uygulamıştı. Emir, Amazon CEO'su Andy Jassy'nin Hazine Bakanı Scott Bessent'e bu bulgu hakkında yaptığı telefon görüşmesinin ardından geldi.letsdatascience+1

Ticaret Bakanı Howard Lutnick, 30 Haziran tarihli bir mektupla kısıtlamaları resmen geri çekti ve her iki modelin ihracatı, yeniden ihracatı veya ülke içi transferi için artık bir lisansa "gerek kalmadığını" belirtti. Buna karşılık Anthropic, güvenlik risklerini proaktif olarak tespit etmeyi ve ele almayı, gelecekteki modeller için standartlar geliştirmeye yardımcı olmayı ve kötü niyetli faaliyetleri hükümete bildirmeyi kabul etti. Anthropic, restorasyonu aynı akşam X üzerinden doğruladı ve Fable 5, 1 Temmuz'da Claude.ai, Claude Code ve Claude Cowork aracılığıyla küresel olarak kullanıcılara geri döndü.thenextweb+3

Siber Güvenliğe Kademeli Yaklaşım

Anthropic, 2 Temmuz'da Fable 5'in güvenlik sınıflandırıcıları hakkında ayrıntılı bir dokümantasyon yayınladı; bu sınıflandırıcılar, güvenlikle ilgili tüm sorguları engellemek yerine siber güvenlik taleplerini dört kategoriye ayırıyor. Fidye yazılımı geliştirme, kötü amaçlı yazılım dağıtımı ve kritik altyapılara yönelik saldırılar her zaman engellenirken, sızma testleri ve exploit geliştirme daha iyi yetkilendirme kontrolleri gelene kadar kısıtlı kalmaya devam ediyor. Güvenli kodlama, yama yönetimi ve güvenlik eğitimi gibi savunma görevlerine varsayılan olarak izin veriliyor.cybersecuritynews+1

Sınıflandırıcıların açıklanmasının yanı sıra Anthropic, Glasswing iş birliği kapsamında Amazon, Microsoft ve Google Alphabet Inc. gibi ortaklarla geliştirilen Siber Jailbreak Ciddiyet çerçevesinin ilk taslağını yayınladı. CJS ölçeği, jailbreak'leri CJS-0'dan (Bilgilendirici) CJS-4'e (Kritik) kadar dört eksende derecelendiriyor: yetenek kazanımı, kapsam, silah haline getirme kolaylığı ve keşfedilebilirlik. Puanlar yükseltilebiliyor ancak asla düşürülemiyor. Anthropic, [email protected] adresinden geri bildirimleri açtı ve araştırmacılar için özel bir HackerOne hata ödül programı başlattı.cyberpress+2

Abonelik Erişimi ve Sırada Ne Var?

Kullanıma sunma süreci bir fiyatlandırma uyarısı içeriyor. Pro, Max, Team ve seçili Enterprise aboneleri, Fable 5'i 7 Temmuz'a kadar haftalık kullanım limitlerinin yüzde 50'sine kadar ek ücret ödemeden kullanabilirler. Bu tarihten sonra, her Fable 5 token'ı standart API oranlarında (milyon girdi token'ı başına 10 dolar ve milyon çıktı token'ı başına 50 dolar) ölçümlü kullanım kredisi faturalandırmasına geçecek; ta ki kapasite paket aboneliklere tam dönüşe izin verene kadar. AWS, Google Cloud ve Microsoft Foundry aracılığıyla bulut pazaryeri erişimi de geri yükleniyor.marktechpost+2

Kaynaklar (15)