OpenAI Başkanı Brockman’dan uyarı: Z.ai’nin GLM-5.3 modeli siber tehditleri artıracak

Çinli yapay zeka laboratuvarı Z.ai, sistemin yazılım açıklarını bulma ve istismar etme konusunda beklenmedik derecede güçlü yetenekler göstermesi üzerine, GLM-5.3 modelinin açık kaynaklı ağırlıklarını yayınlamayı iki hafta erteleyeceğini 14 Ağustos'ta duyurdu. Bu karar, modelin "tehdit ortamını önemli ölçüde hızlandırma" olasılığına karşı uyarıda bulunan OpenAI Başkanı Greg Brockman'ın dikkatini çekti.buttondown+2

Yaratıcılarını Şaşırtan Model

Z.ai, GLM-5.3'ün selefi GLM-5.2 ile aynı temel mimari üzerine inşa edildiğini ve tüm performans kazanımlarının tam bir yeniden eğitim yerine eğitim sonrası iyileştirmelerden kaynaklandığını belirtti. Şirket, daha iyi hata tespiti beklentisiyle güvenlik açığı verileri eklediğini ancak bunun yerine modelin hiç planlanmayan çok aşamalı istismar zincirleri ürettiğini gözlemlediğini açıkladı. Şirket içi bir test olan CyberGym'de GLM-5.3, bir önceki modelin %77,2'lik oranına kıyasla bilinen yazılım açıklarını %84,5 oranında tespit ederken, istismar puanını iki katından fazla artırdı.instagram+2

Z.ai, GLM modellerinin şimdiden, bazıları Linux çekirdeğinde ve yaygın olarak kullanılan VMware Broadcom Inc. ↘ 3.10% ve Apache projelerinde olmak üzere, 1.000'den fazlası kritik veya yüksek önem derecesine sahip 2.400'den fazla güvenlik açığı tespit ettiğini açıkladı. Şirket, daha geniş API erişimi ve indirilebilir ağırlıklar için güvenlik değerlendirmesinin tamamlanmasını beklerken, kontrollü ortamlarda seçilmiş güvenlik ortaklarına kademeli erişim sunuyor.instagram+2

Sektörde Alarm Çanları

Yakın zamanda OpenAI ve Hugging Face'i vuran bir siber saldırının ardından açıklama yapan Brockman, şirketleri derhal harekete geçmeye çağırdı. Bu anı siber güvenlik için "belirleyici" olarak nitelendiren Brockman, ağustos sonunda yayınlanması planlanan GLM-5.3'ün açık ağırlıklarını yakın vadeli bir tırmanış olarak gösterdi. Güvenlik ekiplerine, en yüksek öncelikli sistemlerden başlayarak, kod tabanlarına ve altyapıya onaylı erişimi olan otonom yapay zeka araçlarını benimsemelerini tavsiye etti.artificialintelligence-news+1

Bu uyarı, kendi öncü modellerinin siber yeteneklerini büyüyen bir risk olarak işaret eden OpenAI CEO'su Sam Altman ve Anthropic CEO'su Dario Amodei tarafından dile getirilen endişeleri yansıtıyor.timesnownews

Açık Ağırlıklar, Açık Sorular

Z.ai ertelemeyi sorumlu bir açıklama olarak nitelendirerek, "açık bir dünyada sadece açık saldırı yüzeyleri olamaz, aynı zamanda açık bir kalkan da olmalıdır" argümanını savundu. Yine de, şimdiye kadar belirtilen tüm test rakamları doğrudan Z.ai'den geliyor; ağırlıklar henüz yayınlanmadığı için hiçbir bağımsız araştırmacı bu sonuçları yeniden üretemedi. Modelin şu anda 28 Ağustos olarak hedeflenen halka açık sürümü, bu iddiaların geçerli olup olmadığını ve savunucuların modelin sunduğu imkanlara ayak uydurup uyduramayacağını test edecek.remio+2