Anthropic, açık kaynak için ücretsiz yapay zeka güvenlik taramaları başlattı

Anthropic, Perşembe günü Claude Mythos dahil olmak üzere en yetenekli modellerini kullanarak uygun açık kaynak projelerinde düzenli güvenlik açığı taramaları yapan ücretsiz ve isteğe bağlı bir hizmet olan OSS Scanner'ı başlattı. Tarayıcı, şirketin Anthropic Cyber Mission adını verdiği yeni bir girişimin parçası. Bu girişim aynı zamanda 11 kurucu ortak etrafında inşa edilen bir Kritik Altyapı Savunma Programını da içeriyor.theverge+1

Şirket, saldırganlar aynı araçları kullanırken yapay zekanın savunmacıların ayak uydurmasına yardımcı olabileceğine inanıyor. Anthropic duyurusunda, "Güvenlik açıklarını bulmak her zamankinden daha kolay, ancak bu bulguları doğrulamak, önceliklendirmek ve düzeltmek hala zorlu bir süreç" ifadelerini kullandı.anthropic

Daha hızlı raporlar, insan denetimi yok

Her rapor bir kavram kanıtı, bir açıklama ve mümkünse önerilen bir düzeltme içeriyor. Raporlar model tarafından yazılıyor ve insan denetimi olmaksızın doğrudan bakım sorumlularına gönderiliyor. Anthropic, bunun süreci hızlandırdığını ancak yanlış bir ciddiyet derecelendirmesi gibi hatalı sonuçlar doğurabileceğini belirtti. Şirket, bulguların yüzde 90'ından fazlasının gerçek hatalar olmasını beklediğini açıkladı. Daha önceki bir testte, Anthropic'in açıklamalarını inceleyen uzman sızma testi uzmanları, 48 proje genelinde 97 kritik ve yüksek ciddiyetli bulguyu kontrol etti. Bunlardan 85'ini açıklanmak üzere onayladılar ve geri kalanlardan sadece biri hatalı pozitif çıktı.siliconangle+2

Hizmeti test eden bakım sorumluları olumlu geri bildirimlerde bulundu. wolfSSL'den Todd Ouska, "Aldığımız 74 rapordan ikisi hariç hepsi geçerliydi ve beşi CVE haline geldi" dedi. OpenSSL Corporation'dan Anton Arapov ise çalışan bir istismar kodu içeren bir raporun "bir mühendis için işin büyük kısmının bittiği anlamına geldiğini" belirtti.unite+1

Hizmet, biriken iş yükünden doğdu. Son altı ayda Anthropic'in modelleri 29.000'den fazla olası güvenlik açığını işaretledi, ancak personel bunların sadece 6.000'ini inceleyebildi. Bazı bakım sorumluları, incelenmiş olsun ya da olmasın tüm bulguları almak istediklerini belirtti. Kayıt olmak için, bir projenin ana bakım sorumlularının Anthropic'in GitHub deposuna bir çekme isteği (pull request) göndermesi gerekiyor. Uygunluk, Google'ın Alphabet Inc. ↗ 0.87% OSS-Fuzz standardını takip ediyor: "altyapı ve kullanıcı güvenliği üzerinde kritik etki". The Register, hizmetin Anthropic'in girdi ve çıktıların model eğitimi için kullanılmasına izin veren tüketici şartları altında çalıştığını bildirdi. Ham bulgulara yetişemeyen projeler, insan tarafından doğrulanmış açıklamaları almaya devam edecek.anthropic+2

Kritik altyapının korunması

Altyapı programı; elektrik şebekeleri, su sistemleri ve ulaşım ağları üzerinde çalışan güvenlik sağlayıcılarına Claude modelleri, yerinde mühendisler ve tehdit araştırmaları sunuyor. Kurucu ortaklar arasında Accenture ↗ 0.34%, Booz Allen, CrowdStrike ↗ 4.57%, Deloitte, Dragos, Hitachi, Insane Cyber, Nozomi Networks, Palo Alto Networks ↗ 5.09%, PwC ve Rockwell Automation ↘ 0.36% bulunuyor. Booz Allen'dan Andrew Turner, operasyonel teknolojiyi "otonom yapay zeka destekli saldırılar için bir sonraki sınır" olarak nitelendirdi. Axios, Anthropic'in ortakların ücretsiz model erişimi alıp almayacağı veya bilgi işlem maliyetlerini kimin karşılayacağı konusunda bir açıklama yapmadığını bildirdi.cyberscoop+2

Glasswing üzerine inşa ediliyor

Her iki program da Anthropic'in Nisan ayında başlattığı Project Glasswing üzerine inşa ediliyor. Şirket, 6 Ekim'de Glasswing'i genişletilmiş bir Siber Doğrulama Programı ile birleştirdi. Anthropic, Glasswing'in birçok güvenlik açığı bulduğunu ancak siber riski henüz yeterince azaltmadığını belirtti. Şirket, yapay zekanın iki yıl içinde savunmacıların lehine olacağını öngörüyor ancak bunun kısa vadede geçerli olmayabileceğini söylüyor. The Register, bu lansmanın, sınır modellerinin Hugging Face dahil olmak üzere çeşitli kuruluşlara sızdığı son olayların ardından geldiğine dikkat çekti.theregister+2