Mandiants AI-agenter hittade över 100 kritiska sårbarheter på två dagar

Google Alphabet Inc. ↗ 0.11% Threat Intelligence Group avslöjade på onsdagen hur ett internt Mandiant-verktyg använder kedjor av AI-agenter för att jaga mjukvarusårbarheter. De rapporterade att verktyget upptäckte mer än 100 verifierade, kritiska fel på bara två dagar under en live-undersökning av stulna källkodsarkiv.

Verktyget, kallat Agentic Vulnerability Discovery Harness (AVDH), har varit i drift hos Mandiant i tio månader. Det har skannat tiotals miljoner rader kod och producerat tiotusentals fynd, enligt ett blogginlägg publicerat av Google Threat Intelligence Group. Samtidigt meddelade Palo Alto Networks ↘ 3.68% sitt Frontier AI Critical Defense Program, ett samarbetsinitiativ för att skydda kritisk infrastruktur mot AI-drivna angrepp.helpnetsecurity+1

Så fungerar AVDH

AVDH är byggt på Googles Agent Development Kit och fungerar som en pipeline av specialiserade agenter. En inledande agent kartlägger källkoden och bygger en hotmodell, som granskas av en människa innan skanningen fortsätter. Efterföljande agenter identifierar ingångspunkter där användarinput kommer in i applikationen, samlar relevant kontext som behörighetskontroller och input-rensare, samt genererar hypoteser om potentiella problem med åtkomstkontroll och farliga dataflöden.cloud.google+1

Flera agenter validerar sedan varje hypotes, medvetet körda med höga "temperaturinställningar" för att bredda deras resonemangsförmåga. En syntesagent sorterar fynden i kategorier som bekräftade, avfärdade eller avvisade. Varje bekräftat fynd kräver fortfarande att en Mandiant-konsult reproducerar angreppet med bevis-på-koncept-kod innan det räknas.helpnetsecurity

Verktyget har redan resulterat i 12 tilldelade CVE-nummer i flitigt använda webbläsartillägg och projekt med öppen källkod, med "ett dussin till under aktiv offentliggörande," skriver forskarna Alex Tselevich och Michael Maturi.cloud.google+1

Palo Alto Networks svarar på gapet i patchning

Palo Alto Networks meddelade att deras egna Frontier AI-modeller har identifierat mer än 14 000 tidigare okända sårbarheter i mjukvara med öppen källkod. Deras nya Frontier AI Critical Defense Program samlar partners som Anthropic, OpenAI, IBM International Business Machines Corporation ↗ 1.72%, Red Hat, Microsoft ↗ 0.44%, Siemens, Idaho National Laboratory, Mitsubishi och Axis Communications för att distribuera proaktiva "virtuella patchar" på nätverksnivå som neutraliserar fel innan mjukvaruuppdateringar kan distribueras säkert.streetinsider+1

"I en tid av Frontier AI är det traditionella, reaktiva kapplöpet om att bygga och distribuera mjukvarupatchar innan motståndare utnyttjar ett fel en förlorad kamp," sade Lee Klarich, produktchef på Palo Alto Networks, i ett uttalande.streetinsider

En växande kapprustning

Tillkännagivandena kommer mitt i en växande oro för att AI komprimerar tidslinjen mellan upptäckt av sårbarheter och utnyttjande. I maj dokumenterade Googles Threat Intelligence Group det första offentligt kända noll-dagars-angreppet utfört med AI-assistans, där en kriminell grupp använde stora språkmodeller för att identifiera ett logiskt fel i ett administrationsverktyg med öppen källkod. Cloud Security Alliance varnade i augusti för att AI-driven sårbarhetsupptäckt går snabbare än organisationers förmåga att patcha.hothardware+2

Mandiants forskare erkänner spänningen. "Manuell granskning av källkod kan inte hålla jämna steg med AI, och traditionella skanningsmotorer missar konsekvent det breda spektrumet av sårbarheter som är dolda i modern mjukvara," skriver de, och tillägger att resultaten visar att "försvarare kan återta fördelen mot fientlig AI".helpnetsecurity