Mandiant yapay zeka ajanları iki günde 100’den fazla kritik açık buldu

Google Alphabet Inc. ↘ 0.17% Tehdit İstihbarat Grubu Çarşamba günü, dahili bir Mandiant aracının yazılım açıklarını avlamak için yapay zeka ajan zincirlerini nasıl kullandığını açıkladı. Şirket, çalınmış kurumsal kaynak kodu depolarında yapılan canlı bir inceleme sırasında sadece iki günde 100'den fazla doğrulanmış, yüksek şiddetli açık bulunduğunu bildirdi.

Agentic Vulnerability Discovery Harness (AVDH) adı verilen araç, Google Tehdit İstihbarat Grubu tarafından yayınlanan bir blog yazısına göre, on aydır Mandiant bünyesinde çalışıyor, on milyonlarca satır kodu tarıyor ve on binlerce bulgu üretiyor. Aynı gün, Palo Alto Networks ↘ 3.62%, kritik altyapıları yapay zeka destekli saldırılardan korumak için iş birliğine dayalı bir girişim olan Frontier AI Critical Defense Program'ını duyurdu.helpnetsecurity+1

AVDH Nasıl Çalışıyor

Google'ın Agent Development Kit'i üzerine inşa edilen AVDH, uzmanlaşmış ajanlardan oluşan bir boru hattı olarak çalışıyor. İlk ajan kod tabanını haritalandırıyor ve bir tehdit modeli oluşturuyor, tarama başlamadan önce bu model bir insan tarafından gözden geçiriliyor. Sonraki ajanlar, kullanıcı girdisinin uygulamaya girdiği giriş noktalarını belirliyor, izin kontrolleri ve girdi temizleyicileri gibi ilgili bağlamı topluyor ve potansiyel erişim kontrolü sorunları ile tehlikeli veri akışları hakkında hipotezler üretiyor.cloud.google+1

Ardından birden fazla ajan, muhakeme yeteneklerini genişletmek için kasıtlı olarak yüksek "sıcaklık" ayarlarında çalıştırılarak her hipotezi doğruluyor. Bir sentez ajanı, bulguları onaylanmış, çürütülmüş veya reddedilmiş kategorilerine ayırıyor. Onaylanan her bulgu, sayılmadan önce bir Mandiant danışmanının kavram kanıtlama koduyla saldırıyı yeniden üretmesini gerektiriyor.helpnetsecurity

Araştırmacılar Alex Tselevich ve Michael Maturi'nin yazdığına göre, araç halihazırda yaygın olarak kullanılan web eklentilerinde ve açık kaynaklı projelerde 12 adet atanmış CVE ile sonuçlandı ve "bir düzine kadarı da şu anda aktif açıklama sürecinde".cloud.google+1

Palo Alto Networks Yama Boşluğuna Yanıt Veriyor

Palo Alto Networks, kendi Frontier AI modellerinin açık kaynaklı yazılımlarda daha önce bilinmeyen 14.000'den fazla güvenlik açığı tespit ettiğini duyurdu. Yeni Frontier AI Critical Defense Program'ı; Anthropic, OpenAI, IBM International Business Machines Corporation ↗ 1.69%, Red Hat, Microsoft ↗ 0.42%, Siemens, Idaho National Laboratory, Mitsubishi ve Axis Communications gibi ortakları bir araya getirerek, yazılım düzeltmeleri güvenli bir şekilde dağıtılmadan önce açıkları etkisiz hale getiren ağ düzeyinde "sanal yamalar" uyguluyor.streetinsider+1

"Frontier AI çağında, yazılım yamalarını düşmanlar bir açığı istismar etmeden önce oluşturmak ve dağıtmak için verilen geleneksel, reaktif yarış kaybedilmiş bir savaştır," dedi Palo Alto Networks ürün müdürü Lee Klarich bir açıklamasında.streetinsider

Genişleyen Bir Silahlanma Yarışı

Duyurular, yapay zekanın güvenlik açığı keşfi ile istismar arasındaki süreyi kısalttığına dair artan endişelerin ortasında geldi. Mayıs ayında Google'ın Tehdit İstihbarat Grubu, bir suç grubunun açık kaynaklı bir yönetim aracındaki mantıksal bir açığı belirlemek için büyük dil modellerini kullandığı, yapay zeka destekli ilk halka açık sıfırıncı gün saldırısını belgeledi. Cloud Security Alliance, Ağustos ayında yapay zeka destekli açık keşfinin, kuruluşların yama yapma kapasitesini aştığı konusunda uyardı.hothardware+2

Mandiant araştırmacıları bu gerilimi kabul etti. "Manuel kaynak kodu incelemesi yapay zekaya ayak uyduramaz ve geleneksel tarama motorları modern yazılımlarda gizlenmiş geniş güvenlik açığı yelpazesini sürekli olarak gözden kaçırır," diye yazan araştırmacılar, sonuçlarının "savunmacıların düşman yapay zekaya karşı avantajı geri kazanabileceğini" gösterdiğini ekledi.helpnetsecurity