Mandiants AI-agenter fant over 100 kritiske sårbarheter på to dager

Google Alphabet Inc. ↗ 1.05% Threat Intelligence Group avslørte onsdag hvordan et internt Mandiant-verktøy bruker kjeder av AI-agenter for å jakte på programvaresårbarheter. De rapporterte at verktøyet avdekket mer enn 100 verifiserte, kritiske feil i løpet av bare to dager under en live-undersøkelse av stjålne kildekodelagre.

Verktøyet, kalt Agentic Vulnerability Discovery Harness (AVDH), har vært i bruk hos Mandiant i ti måneder. Det har skannet titalls millioner linjer med kode og produsert titusenvis av funn, ifølge et blogginnlegg publisert av Google Threat Intelligence Group. Samtidig kunngjorde Palo Alto Networks ↗ 2.38% sitt Frontier AI Critical Defense Program, et samarbeidsinitiativ for å beskytte kritisk infrastruktur mot AI-drevne angrep.helpnetsecurity+1

Slik fungerer AVDH

AVDH er bygget på Googles Agent Development Kit og fungerer som en pipeline av spesialiserte agenter. En innledende agent kartlegger kildekoden og bygger en trusselmodell, som gjennomgås av et menneske før skanningen fortsetter. Påfølgende agenter identifiserer inngangspunkter der brukerinput kommer inn i applikasjonen, samler relevant kontekst som tilgangskontroller og input-rensere, og genererer hypoteser om potensielle problemer med tilgangsstyring og farlige dataflyter.cloud.google+1

Flere agenter validerer deretter hver hypotese, bevisst kjørt med høye "temperaturinnstillinger" for å utvide resonneringsevnen. En syntese-agent sorterer funnene i kategorier som bekreftet, avkreftet eller avvist. Hvert bekreftet funn krever fortsatt at en Mandiant-konsulent reproduserer angrepet med bevis-på-konsept-kode før det telles.helpnetsecurity

Verktøyet har allerede resultert i 12 tildelte CVE-er i mye brukte nettleserutvidelser og åpen kildekode-prosjekter, med "et dusin til under aktiv offentliggjøring," skriver forskerne Alex Tselevich og Michael Maturi.cloud.google+1

Palo Alto Networks svarer på gapet i oppdateringer

Palo Alto Networks kunngjorde at deres egne Frontier AI-modeller har identifisert mer enn 14 000 tidligere ukjente sårbarheter i åpen kildekode-programvare. Deres nye Frontier AI Critical Defense Program samler partnere som Anthropic, OpenAI, IBM International Business Machines Corporation ↗ 0.85%, Red Hat, Microsoft ↗ 0.43%, Siemens, Idaho National Laboratory, Mitsubishi og Axis Communications for å rulle ut proaktive "virtuelle oppdateringer" på nettverksnivå som nøytraliserer feil før programvareoppdateringer kan distribueres trygt.streetinsider+1

"I en tid med Frontier AI er det tradisjonelle, reaktive kappløpet om å bygge og distribuere programvareoppdateringer før motstandere utnytter en feil, en tapt kamp," sa Lee Klarich, produktdirektør i Palo Alto Networks, i en uttalelse.streetinsider

Et økende våpenkappløp

Kunngjøringene kommer midt i en økende bekymring for at AI forkorter tidslinjen mellom oppdagelse av sårbarheter og utnyttelse. I mai dokumenterte Googles Threat Intelligence Group det første offentlig kjente null-dags-angrepet utført med AI-assistanse, der en kriminell gruppe brukte store språkmodeller for å identifisere en logisk feil i et administrasjonsverktøy med åpen kildekode. Cloud Security Alliance advarte i august om at AI-drevet sårbarhetsoppdagelse går raskere enn organisasjoners evne til å tette hullene.hothardware+2

Mandiants forskere anerkjenner spenningen. "Manuell gjennomgang av kildekode kan ikke holde tritt med AI, og tradisjonelle skannemotorer overser konsekvent det brede spekteret av sårbarheter som er skjult i moderne programvare," skriver de, og legger til at resultatene viser at "forsvarere kan gjenvinne fordelen mot fiendtlig AI".helpnetsecurity