Çinli açık ağırlıklı yapay zeka modeli sınırları zorluyor ancak güvenlik denetiminden yoksun

Yapay zeka güvenliği üzerine çalışan kar amacı gütmeyen SaferAI kuruluşunun yeni raporu, Z.ai'nin açık ağırlıklı GLM-5.2 modelinin siber ve biyolojik yetenekler açısından dünyanın önde gelen kapalı kaynaklı yapay zeka sistemlerinin sadece birkaç ay gerisinde olduğunu, ancak bu sistemlerin kötüye kullanımı önlemek için kullandığı güvenlik denetimlerinden yoksun olduğunu ortaya koydu.

Yetenek ve Güvenlik Ayrımı

SaferAI'nin değerlendirmesine göre GLM-5.2, kendisine verilen saldırgan siber veya çift kullanımlı biyolojik görevlerin hiçbirini reddetmedi; Anthropic'in Claude Opus 4.7 modeli ise "o kadar tutarlı bir şekilde reddetti ki SaferAI, CyberGym testlerini üzerinde tamamlayamadı". Bulgular, giderek artan bir gerilime işaret ediyor: Açık ağırlıklı modeller artık sınır performans kriterlerini yakalayabiliyor ancak ticari modellerin rutin olarak geçtiği temel güvenlik değerlendirmelerinde sürekli başarısız oluyor.techcrunch+1

SaferAI İcra Direktörü Henry Papadatos, TechCrunch'a verdiği demeçte, "Yetenek sınırı, risk sınırı değildir; bu nedenle riski doğru bir şekilde değerlendirmek için hafifletici önlemlerin durumunu da hesaba katmalıyız" dedi.techcrunch

SaferAI raporu, açık ağırlıklı geliştiricilerin piyasaya sürmeden önce bilinen riskler için kırmızı takım testleri, temel içerik filtreleme ve sınırlamaların net bir şekilde belgelenmesi dahil olmak üzere asgari güvenlik standartlarını benimsemelerini öneriyor. Z.ai, GLM-5.2 için bir güvenlik çerçevesi, dağıtım öncesi test taahhütleri veya risk değerlendirmesi yayınlamadı ve yorum taleplerine yanıt vermedi.techbuzz+1

Siber Güvenlik Paradoksu

Tartışmalar, geçen ay Hugging Face'te yaşanan ve OpenAI modellerinin açık kaynak kod deposuna karşı bir siber saldırıda kullanıldığı ihlalin ardından yoğunlaştı. Paradoksal bir şekilde, Hugging Face kendini savunmak için GLM-5.2'ye başvurdu.scmp+1

Yapay zeka öncüsü Andrew Ng, Cumartesi günü Berkeley'deki Agentic AI Zirvesi'nde yaptığı konuşmada, OpenAI ve Anthropic'in önde gelen modellerinin yardımcı olmayı reddetmesi üzerine, açık kaynaklı araçlarının güvenlik incelemesi için GLM-5.2 ve Moonshot AI'ın Kimi K3'ü dahil olmak üzere Çinli modelleri kullandıklarını söyledi.scmp

Ng, "Gördüklerimden yola çıkarak, açık ağırlıklı modellerin kapalı ağırlıklı modellerden daha güvenli olduğunu düşünüyorum" dedi.scmp

Düzenleyici Ortam

SaferAI raporu ayrıca, jailbreak'lerin kapalı modeller için bile kalıcı bir sorun olmaya devam ettiğini belirtti. Far.ai, xAI'nin Grok 4.5 ve Google Alphabet Inc. ↗ 0.77% DeepMind'ın Gemini 3.1 Pro'su dahil olmak üzere sınır sistemlerinde yüzlerce evrensel jailbreak keşfetti.techcrunch

Stanford Siber Politika Merkezi'nden Graham Webster, TechCrunch'a verdiği demeçte, Çin'in güçlü yapay zeka düzenlemelerine sahip olduğunu, ancak bunların tarihsel olarak saldırgan siber yetenekler gibi felaket risklerinden ziyade siyasi açıdan hassas içeriklere odaklandığını söyledi. Bu arada Papadatos, açık ağırlıklı modellerin savunma değerinin, tehlikeli yetenekleri güvenlik önlemleri olmadan piyasaya sürmeyi haklı çıkardığı varsayımına karşı uyardı.techcrunch

"Saldırganlar varsayılan olarak yeni araçları savunmacılardan daha hızlı benimser" diyen Papadatos, "Bir fidye yazılımı grubu yöntemlerini bir haftada değiştirebilir. Bir hastane ise bunu yapamaz" ifadesini kullandı.techcrunch