AI agenti společnosti Mandiant odhalili přes 100 kritických chyb během dvou dnů

Skupina pro analýzu hrozeb společnosti Google Alphabet Inc. ↘ 2.32% ve středu popsala, jak interní nástroj Mandiant využívá řetězce AI agentů k vyhledávání softwarových zranitelností. Uvedla, že během živého vyšetřování ukradených repozitářů podnikového zdrojového kódu odhalila více než 100 ověřených, vysoce závažných chyb během pouhých dvou dnů.

Nástroj s názvem Agentic Vulnerability Discovery Harness (AVDH) běží uvnitř společnosti Mandiant již deset měsíců, během nichž proskenoval desítky milionů řádků kódu a vygeneroval desítky tisíc nálezů, uvádí příspěvek na blogu Google Threat Intelligence Group. Společnost Palo Alto Networks ↘ 7.64% ve stejný den oznámila svůj program Frontier AI Critical Defense, což je společná iniciativa na ochranu kritické infrastruktury před útoky řízenými umělou inteligencí.helpnetsecurity+1

Jak AVDH funguje

AVDH, postavený na sadě Google Agent Development Kit, funguje jako řetězec specializovaných agentů. První agent zmapuje kódovou základnu a vytvoří model hrozeb, který člověk zkontroluje před zahájením skenování. Následní agenti identifikují vstupní body, kde uživatelský vstup vstupuje do aplikace, shromažďují relevantní kontext, jako jsou kontroly oprávnění a sanitizéry vstupů, a generují hypotézy o potenciálních problémech s řízením přístupu a nebezpečných datových tocích.cloud.google+1

Několik agentů poté každou hypotézu validuje, přičemž záměrně běží při vysokém nastavení „teploty“, aby se rozšířilo jejich uvažování. Syntetický agent následně roztřídí nálezy do kategorií potvrzených, vyvrácených nebo zamítnutých. Každý potvrzený nález stále vyžaduje, aby konzultant Mandiant reprodukoval zneužití pomocí kódu typu proof-of-concept, než je započítán.helpnetsecurity

Nástroj již vedl k přidělení 12 CVE v široce používaných webových rozšířeních a open-source projektech, přičemž „další tucet je v současné době v procesu aktivního zveřejňování,“ napsali výzkumníci Alex Tselevich a Michael Maturi.cloud.google+1

Palo Alto Networks reaguje na mezeru v záplatování

Společnost Palo Alto Networks oznámila, že její vlastní modely Frontier AI identifikovaly více než 14 000 dosud neznámých zranitelností v open-source softwaru. Její nový program Frontier AI Critical Defense sdružuje partnery, jako jsou Anthropic, OpenAI, IBM International Business Machines Corporation ↘ 0.85%, Red Hat, Microsoft ↘ 1.93%, Siemens, Idaho National Laboratory, Mitsubishi a Axis Communications, za účelem nasazení proaktivních „virtuálních záplat“ na úrovni sítě, které neutralizují chyby dříve, než mohou být bezpečně nasazeny softwarové opravy.streetinsider+1

„V éře Frontier AI je tradiční, reaktivní závod ve vytváření a nasazování softwarových záplat dříve, než protivníci zneužijí chybu, prohraným bojem,“ uvedl v prohlášení Lee Klarich, produktový ředitel Palo Alto Networks.streetinsider

Rozšiřující se závody ve zbrojení

Tato oznámení přicházejí uprostřed rostoucích obav, že AI zkracuje čas mezi objevením zranitelnosti a jejím zneužitím. V květnu zdokumentovala skupina Google Threat Intelligence Group první veřejně známé zneužití zranitelnosti nultého dne vytvořené s pomocí AI, při kterém zločinecká skupina použila velké jazykové modely k identifikaci logické chyby v open-source administrativním nástroji. Aliance Cloud Security Alliance v srpnu varovala, že objevování zranitelností pomocí AI předbíhá schopnost organizací je opravovat.hothardware+2

Výzkumníci z Mandiant si toto napětí uvědomují. „Manuální kontrola zdrojového kódu nemůže držet krok s AI a tradiční skenovací enginy neustále přehlížejí široké spektrum zranitelností skrytých v moderním softwaru,“ napsali a dodali, že jejich výsledky ukazují, že „obránci mohou získat zpět výhodu proti nepřátelské AI“.helpnetsecurity