Newsletter Subscribe
Enter your email address below and subscribe to our newsletter
[forminator_form id="25163"]

blogs.nvidia+1blogs.nvidiablogs.nvidia+1Nvidia ve 30'dan fazla şirket, yapay zeka güvenliğini ve siber savunmayı güçlendirmek amacıyla açık kaynaklı teknolojiler ve araçlar geliştirmeyi ve paylaşmayı hedefleyen Açık Güvenli Yapay Zeka İttifakı'nın (Open Secure AI Alliance) kurulduğunu Pazartesi günü duyurdu.
Linux Foundation'ın Akrites girişimi ve OpenSSF topluluk çalışmaları üzerine inşa edilen ittifak, bulut bilişim, siber güvenlik, kurumsal yazılım ve yapay zeka araştırmaları alanındaki liderleri bir araya getiriyor. Kurucu ortaklar arasında Adobe , Cisco , CrowdStrike , Cloudflare , Dell Technologies , Elastic , HPE Hewlett Packard Enterprise Company , Hugging Face, IBM International Business Machines Corporation , Microsoft , Palantir , Palo Alto Networks , Red Hat, Salesforce , SAP , ServiceNow , Siemens, Snowflake , SK Telecom , Synopsys ve diğerleri yer alıyor.blogs.nvidia
Nvidia'nın açıklamasına göre girişim, açık model ve araçların siber güvenlik için hayati önem taşıdığını savunuyor. Çünkü bunlar "savunma kabiliyetlerini demokratikleştiriyor, savunmacılar için şeffaflığı artırıyor" ve "tek bir başarısızlık noktası olmaksızın, topluluk odaklı ve öz denetimli, kitlesel ölçekte dağıtılmış bir savunmaya imkan tanıyor."blogs.nvidia
Nvidia, son dönemde yaşanan bir Hugging Face güvenlik ihlalini tetikleyici unsur olarak gösterdi. Bu ihlal sırasında, "saldırganları savunmacılardan ayırt edemeyen" kapalı yapay zeka araçları adli incelemeyi engelledi ve Hugging Face'i, 17.000'den fazla eylemi analiz edip sızmayı kontrol altına almak için kendi altyapısında açık ağırlıklı bir model dağıtmaya zorladı.blogs.nvidia
Nvidia, "Savunmacılar gelişmiş yapay zekayı kendi altyapılarında inceleyemediklerinde, uyarlayamadıklarında ve çalıştıramadıklarında, hızın en kritik olduğu anda müdahale kabiliyetleri kısıtlanıyor," diye yazdı.blogs.nvidia
CrowdStrike katılımını duyururken, farklı "donanımlarla" eşleştirilen özdeş öncü yapay zeka modellerinin güvenlik açığı araştırmalarında son derece farklı sonuçlar ürettiğini vurguladı: Genel bir yaklaşım yüzde 80'e yakın yanlış pozitif oranı verirken, özel amaçlı bir güvenlik donanımı bu oranı yaklaşık yüzde 20'ye düşürdü.crowdstrike
Nvidia, GitHub'da erişime açılan ve ajan davranışlarını "test etmeyi, izlemeyi, denetlemeyi ve yönetmeyi kolaylaştırmak" üzere tasarlanan NVIDIA Labs Nesne Yönelimli Ajan (NOOA) adında yeni bir açık kaynak araştırma çerçevesi sunuyor. Diğer katkılar arasında HPE'nin SPIFFE/SPIRE sıfır güven kimlik standartları üzerindeki çalışmaları, IBM ve Red Hat'in dijital imzalı yamalara yönelik Lightwell projesi ve Microsoft'un MDASH çoklu model tarama donanımı bulunuyor.hpe+1
Bu adım, Nvidia CEO'su Jensen Huang'ın Microsoft, Meta ve Palantir'in de aralarında bulunduğu 25 şirket tarafından imzalanan ve politika yapıcıları açık ağırlıklı yapay zeka modelleri üzerinde "erken kısıtlamalardan" kaçınmaya çağıran "Açık Ağırlıklar ve Amerikan Yapay Zeka Liderliği" başlıklı ayrı bir açık mektup paylaşmasından günler sonra geldi. Açık Güvenli Yapay Zeka İttifakı bu argümanı siber güvenlik alanına da taşıyarak, "açık öncü yapay zeka sistemlerine yönelik genel kısıtlamaların savunma kapasitesini zayıflatacağı ve gücü, bağımlılığı ve kırılganlığı az sayıda kapalı sağlayıcıda toplama riski taşıdığı" uyarısında bulunuyor.blogs.nvidia+2