İngiliz ajansı, jailbreak’lerin OpenAI’ın lansmanından önce GPT-5.6’nın siber yeteneklerini açığa çıkardığını tespit etti

Birleşik Krallık Yapay Zeka Güvenlik Enstitüsü (UK AISI) tarafından 9 Temmuz'da yayınlanan model sistem kartına göre, enstitü OpenAI'ın GPT-5.6 Sol modelinde tehlikeli siber yeteneklerin kilidini açan "evrensel jailbreak'ler" tespit etti. Bu bulgu, Anthropic'in Fable 5 modelindeki benzer bir güvenlik açığı sadece birkaç hafta önce ABD'nin ihracat kontrollerini tetiklemişken, modelin neden bu hafta geniş çaplı bir halka açık lansman aldığına dair soruları gündeme getiriyor.deploymentsafety.openai+1

UK AISI Neler Buldu

Dağıtım öncesi testlerde UK AISI, siber alanda "açık uçlu görevlerin tamamlanmasına izin veren" ve güvenlik açığı keşfi ile istismar geliştirme gibi alanları kapsayan jailbreak'ler keşfetti. Ajans, GPT-5.6 Sol'un saldırgan güvenlik görevlerinde selefinden belirgin şekilde daha iyi performans gösterdiğini ve 10 uzun vadeli siber görevden 7'sini tamamladığını, GPT-5.5'in ise sadece 2'sini tamamlayabildiğini tespit etti. UK AISI, modelin zayıf güvenlik duruşuna sahip küçük ölçekli kurumsal ağlara saldırabilecek kapasitede olabileceği sonucuna vardı.deploymentsafety.openai+2

OpenAI, lansmandan önce UK AISI'nin bildirdiği belirli jailbreak'leri yeniden ürettiğini ve hafiflettiğini, evrensel jailbreak'lere yönelik otomatik kırmızı ekip çalışmaları için 700.000'den fazla A100e GPU saati ayırdığını belirtti. Şirket, sistem kartında gelecekte daha fazla jailbreak'in ortaya çıkmasının muhtemel olduğunu kabul etti ve dağıtım sırasında sürekli otomatik kırmızı ekip çalışmalarına devam etmeyi taahhüt etti.deploymentsafety.openai+2

Anthropic'in Fable 5'i ile Paralellikler

Bu keşif, geçen ay Anthropic'i saran krizle doğrudan karşılaştırmalar yapılmasına neden oluyor. 12 Haziran'da ABD Ticaret Bakanlığı, bir jailbreak'in Fable 5'te gelişmiş siber güvenlik yeteneklerinin kilidini açabileceği ve tüketici odaklı bir yapay zeka ürününü saldırgan bir araca dönüştürebileceği yönündeki raporların ardından Anthropic'e Fable 5 ve Mythos 5 modellerini küresel olarak devre dışı bırakmasını emretti. Amazon Amazon.com, Inc. ↘ 0.69% araştırmacılarının, siber saldırıları kolaylaştırabilecek bilgileri toplamak için Fable 5'i kullandığı bildirildi ve bu durum Ticaret Bakanı Howard Lutnick'i ihracat kontrol yetkisini kullanmaya sevk etti.forbes+1

Bu kontroller, Anthropic'in riskleri ele almak için hükümetle birlikte çalışmasının ardından 30 Haziran'da kaldırıldı. Ancak eleştirmenler, UK AISI'nin benzer bir güvenlik açığı sınıfı bulmasına rağmen GPT-5.6'nın 10 Temmuz'da geniş çapta piyasaya sürüldüğüne dikkat çekiyor.cnbc+3

Farklı Sonuçlar, Aynı Riskler

OpenAI, GPT-5.6 Sol'u Hazırlık Çerçevesi kapsamında siber güvenlik açısından "Yüksek" yetenekli olarak derecelendiriyor ancak modelin, güçlendirilmiş hedeflere karşı otonom olarak uçtan uca saldırılar gerçekleştiremediği için "Kritik" seviyeye ulaşmadığını belirtiyor. Şirketin katmanlı güvenlik yığını, üretim sırasında müdahale eden aktivasyon sınıflandırıcılarını ve gerçek zamanlı çıktı taramasını içeriyor.helpnetsecurity+3

Anthropic için ihracat kontrolleri ve OpenAI için onaylanmış bir lansman gibi farklı düzenleyici tepkiler, yapay zeka güvenliği araştırmacıları arasında saldırgan siber potansiyele sahip sınır modelleri üzerindeki hükümet denetiminin tutarlılığı konusunda tartışmalara yol açtı.nile1