Araştırmacılar, iş akışı düzeyinde jailbreak ile GitHub Copilot güvenliğini aşıyor

Son haftalarda yapılan bir dizi araştırma bulgusu, büyük dil modellerinin güvenlik sistemlerindeki yeni açıkları ortaya çıkardı ve bu durum yapay zeka şirketlerinden acil yanıtlar ve bir vakada benzeri görülmemiş bir hükümet müdahalesi ile sonuçlandı. Keşifler, federal bilim insanlarının artık matematiksel bir kesinlik olarak adlandırdığı şeyi vurguluyor: hiçbir sabit koruma seti her türlü düşmanca saldırıyı engelleyemez.

İş Akışı Jailbreak'leri ve Nullspace Steering

Alan Turing Institute araştırmacıları Çarşamba günü, zararlı istekleri zararsız görünen kodlama adımları dizisine yayarak Microsoft Corporation ↗ 0.27% GitHub Copilot güvenlik filtrelerini yenen bir "iş akışı düzeyinde jailbreak" açıkladı. Doğrudan sohbette asistan, 816 zararlı istemin neredeyse tamamını reddetti; bir iş akışına yayıldığında ise her birini tamamladı. Bulgular, mevcut endüstri standardı olan istem bazlı güvenlik testindeki bir kör noktayı vurguluyor.thenextweb

Bununla birlikte, ICLR 2026'da sunulan bir makale, bir modelin dikkat katmanlarındaki dahili "güvenlik başlıklarını" susturan ve kör noktalarına talimatlar enjekte eden bir teknik olan Head-Masked Nullspace Steering veya HMNS'yi tanıttı. Yöntem, kıyaslamalarda %96 ile %99 arasında saldırı başarı oranlarına ulaştı ve SafeDecoding gibi mevcut savunmalara karşı etkili kaldı.reddit+2

NIST, Mükemmel Güvenliğin İmkansız Olduğunu İlan Etti

9 Haziran'da Ulusal Standartlar ve Teknoloji Enstitüsü, kıdemli bilim insanı Apostol Vassilev tarafından hazırlanan ve hiçbir sonlu koruma sisteminin uyarlanabilir düşmanca istemlere karşı evrensel olarak sağlam olamayacağını savunan hakemli bir kanıt yayınladı. Vassilev, "Gödel'in mantığı burada geçerli" dedi. "Tüm düşmanca istem saldırılarına karşı sağlam olduğunuzu asla iddia edemezsiniz". NIST, güvenliği tamamlanmış bir özellik olarak ele almak yerine sürekli kırmızı takım çalışmasına, düzenli güncellemelere ve operasyonel dayanıklılığa geçişi önerdi.nist+1

Şirketler Yanıt Vermek İçin Çabalıyor

Pratik sonuçlar hızla geldi. Amazon araştırmacıları, Anthropic'in Claude Fable 5'ini 9 Haziran'daki lansmanından kısa bir süre sonra jailbreak yaptıktan sonra, ABD Ticaret Bakanlığı, Anthropic'i modeli dünya çapında neredeyse üç hafta boyunca devre dışı bırakmaya zorlayan ihracat kontrolleri uyguladı. Anthropic, Fable 5'i 1 Temmuz'da, bildirilen tekniği denemelerin %99'undan fazlasında engellediğini söylediği yeni bir güvenlik sınıflandırıcısı ile yeniden devreye aldı.thehackernews+2

OpenAI, Nisan ayında, Birleşik Krallık Yapay Zeka Güvenlik Enstitüsü uzman kırmızı takım çalışmasının altı saati içinde GPT-5.5 için evrensel bir jailbreak bulduğunda kendi hesaplaşmasıyla karşı karşıya kaldı. Şirketin bu hafta yayınlanan GPT-5.6'sı, jailbreak girişimlerini tespit etmek için bir sınıflandırıcı ve derinlemesine savunma stratejileri ile şimdiye kadarki "en sağlam" güvenlik önlemleri olarak adlandırdığı şeyleri içeriyor. Google Alphabet Inc. ↘ 0.69%, Palo Alto Networks'ün işaretlemesinin ardından sohbet robotu jailbreak riskleriyle bağlantılı 18 Chrome uzantısını ayrı olarak kaldırdı.aisi+4

Araştırmacılar arasındaki ortak görüş net: jailbreak'ler yapay zeka sistemlerinin kalıcı bir özelliğidir, yamalanarak giderilecek bir hata değildir.resilientcyber