Newsletter Subscribe
Enter your email address below and subscribe to our newsletter
[forminator_form id="25163"]

anthropicanthropicanthropicAnthropic Salı günü yayınladığı bir analizde, Çinli geliştirici Zhipu AI'nin (Z.ai olarak da bilinir) en son yapay zeka modeli olan GLM-5.3'ün, Anthropic'in kendi Claude Mythos Preview modeliyle eşdeğer düzeyde otonom olarak uçtan uca siber saldırı araçları oluşturabildiğini, ancak kötüye kullanıma karşı etkili güvenlik önlemleri içermeyen açık ağırlıklı bir model olarak piyasaya sürüldüğünü uyardı.anthropic
Anthropic'in Frontier Red Team raporuna göre GLM-5.3, Chrome Alphabet Inc. V8 motorundaki bilinen güvenlik açıklarına karşı saldırı geliştirme yeteneğini ölçen ExploitBench'te 410 denemeden 50'sinde çalışan saldırı araçları geliştirdi; Claude Mythos Preview için bu sayı 56 idi. İkili sömürü (binary exploitation) kıyaslamasında GLM-5.3, denemelerin yüzde 4'ünde tam kontrol akışı ele geçirme başarısı gösterirken, Mythos yüzde 6'sında başarılı oldu. Claude Opus 4.6 ve GLM-5.2 dahil olmak üzere önceki modeller ise hiçbir başarı elde edemedi.anthropic
Anthropic'in temel endişesi sadece yetenekler değil, güvenlik bariyerlerinin yokluğudur. GLM-5.3'ün ağırlıkları herkese açık olduğundan, yerleşik reddetme mekanizmaları "abliteration" adı verilen bir teknikle kaldırılabiliyor. Anthropic ekibi, bu yöntemde hiçbir ön deneyimleri olmamasına rağmen, yaklaşık 4.400 dolarlık işlem gücü maliyetiyle modelin standart zarar verme kıyaslamalarındaki reddetme oranını yüzde 90'ın üzerinden yaklaşık yüzde 3'e düşürdü. Birçok geliştirici, modelin Ağustos ayındaki çıkışından günler sonra benzer şekilde "kilidi açılmış" sürümler yayınladı.anthropic
Tam "abliteration" dışında, daha basit numaralar da işe yarıyor. Yetkili bir kırmızı takım egzersizi olduğunu iddia eden aldatıcı bir komut, GLM-5.3'ün güvenlik önlemlerini yüzde 64 oranında devre dışı bıraktı; modelin düşünce zinciri belirteçlerini önceden doldurmak ise uyumluluğu yüzde 92'ye çıkardı. Anthropic'in testlerinde bu tekniklerin hiçbiri Claude modellerine karşı başarılı olamadı.anthropic
Araştırmacı odaklı bir oturumda GLM-5.3, popüler bir web tarayıcısının JavaScript motorunda daha önce bilinmeyen birkaç güvenlik açığı keşfetti ve bunları ziyaretçinin bilgisayarından rastgele dosyaları okuyan çalışan bir saldırı aracına dönüştürdü. Daha küçük olan GLM-5.3-Flash, bilinen bir Chrome güvenlik açığı için sekiz saatlik işlem süresi ve 20 dakikalık insan müdahalesiyle, 20.40 dolarlık API maliyetiyle güvenilir bir saldırı zinciri oluşturdu.anthropic
17 Eylül'de NIST'in Yapay Zeka Standartları ve İnovasyon Merkezi kendi değerlendirmesini yayınlayarak GLM-5.3'ü "bugüne kadar piyasaya sürülen en siber yetenekli açık ağırlıklı model" olarak nitelendirdi, ancak yeteneklerinin mevcut ABD öncü modellerinin yaklaşık dört ay gerisinde kaldığını belirtti. Z.ai, GLM-5.3'ü ilk olarak Ağustos ayında API'si aracılığıyla başlattı ve iki hafta sonra ağırlıkları Hugging Face'te yayınlayarak, bu gecikmenin ek güvenlik değerlendirmelerine olanak tanıdığını söyledi.trendingtopics+2
Herkes Anthropic'in endişesini paylaşmıyor. IANS Research'ten Jake Williams, The New Stack'e verdiği demeçte, tehdit aktörlerinin modeli kullanacağını ancak bunun tehdit ortamını anlamlı bir şekilde değiştirmesini beklemediğini söyledi. Eleştirmenler ayrıca olası bir çıkar çatışmasına dikkat çekerek, Anthropic'in doğrudan Z.ai ile rekabet ettiğini ve Nvidia , Meta , Microsoft , OpenAI ve Google tarafından desteklenen açık modelleri savunan sektör mektubunu imzalamayan tek büyük yapay zeka laboratuvarı olduğunu belirttiler.trendingtopics
Anthropic bu anı, savunmacılar için genişletilmiş erişim gerektiren bir durum olarak tanımladı: "Özgürce erişilebilir yeteneklerde kritik bir eşik artık aşılmış durumda".anthropic