Anthropic’in Claude Fable 5’i piyasaya sürüldükten günler sonra hacklendi, araştırmacı iddia ediyor

Anthropic'in halka açık en güçlü yapay zeka modeli olan Claude Fable 5'in güvenlik korumalarının, 9 Haziran'daki piyasaya sürülmesinden sadece bir gün sonra tanınmış bir yapay zeka güvenlik araştırmacısı tarafından aşıldığı bildirildi. Bu durum, modeller daha yetenekli hale geldikçe yapay zeka güvenlik önlemlerinin dayanıklılığı konusunda yeni soruları gündeme getiriyor.

Bypass Yöntemi

Üretken yapay zeka korsanı "Pliny the Liberator", 10 Haziran'da X'te yaptığı paylaşımda, kendisinin ve otomatik ajanlardan oluşan bir ekibin, "sürü avı" olarak tanımladığı koordineli bir çoklu ajan saldırısı kullanarak Fable 5'in güvenlik sınıflandırıcılarını başarıyla aştığını belirtti. Cybersecurity News'e göre yöntemler, anahtar kelime filtrelerini atlatmak için Unicode ve Kiril karakteri ikamesi, uzun bağlam referans takibi, taksonomi ve belge yapısı çerçeveleme, kurgu ve anlatı çerçeveleme ve zararlı bilgilerin zararsız parçalar halinde çıkarılıp yeniden birleştirildiği bir ayrıştırma-yeniden birleştirme yaklaşımını içeriyordu.cybersecuritynews+1

Son teknik en etkili olanıydı. Pliny, "Birch indirgeme yöntemi veya redüktif aminasyon gibi süreçlerin kendisini iyileştirmenin", doğrudan adlandırılmış zararlı bir bileşik istemekten çok daha yapılabilir olduğunu yazdı ve daha önce jailbreak yapılmış bir Claude Opus 4.8 örneğinin arka uçta yardımcı olduğunu ekledi. Araştırmacı tarafından paylaşılan ekran görüntüleri, yığın arabellek taşması (stack buffer overflow) istismarı için adım adım rehberlik ve kimyasal sentez yolları dahil olmak üzere çıktıları gösterdi. Pliny ayrıca Fable 5'in yaklaşık 120.000 karakterlik sistem istemini GitHub'da yayınlayarak Anthropic'in modeli yönetmek için kullandığı dahili güvenlik talimatlarını ifşa etti.x+2

Anthropic'in Lansman Öncesi İddiaları

Anthropic, Fable 5'i bu tür saldırılara karşı güçlendirilmiş olarak konumlandırmıştı. Lansman gününe ait bir TechCrunch raporu, şirketin "1.000 saati aşkın test süresinde evrensel bir jailbreak üretmediğini" ve harici güvenlik ekiplerinin de evrensel bypass yöntemleri bulamadığını belirttiğini kaydetti. Şirketin sistem kartı, halka açık hata ödül programının 5 Haziran itibarıyla yaklaşık 100.000 deneme aldığını belirtti. Bir önlem olarak Anthropic, yeni saldırılara karşı savunma yapmak için tüm Fable 5 trafiğinde 30 günlük zorunlu bir veri saklama politikası uyguladı.B2B News Network Inc.+2

Tanıdık Bir Model

Bu hızlı ihlal, büyük yapay zeka sürümlerinde yerleşik bir modeli takip ediyor. Pliny daha önce Mayıs ayı sonundaki lansmanından dakikalar sonra Claude Opus 4.8'in, Nisan ayında Claude Opus 4.7'nin ve geçen yıl piyasaya sürüldükleri gün OpenAI'ın GPT-OSS modellerinin jailbreak'lerini yaptığını iddia etmişti. Anthropic, Fable 5 jailbreak iddialarına veya sızdırılan sistem istemine henüz kamuoyuna bir yanıt vermedi.X (formerly Twitter)+3