Mandiant KI-Agenten finden über 100 kritische Sicherheitslücken in zwei Tagen

Die Threat Intelligence Group von Google Alphabet Inc. ↘ 1.11% enthüllte am Mittwoch, wie ein internes Mandiant-Tool mithilfe von KI-Agentenketten nach Software-Schwachstellen sucht. Dabei wurden innerhalb von nur zwei Tagen bei einer Untersuchung gestohlener Quellcode-Repositories mehr als 100 bestätigte, hochkritische Sicherheitslücken entdeckt.

Das Tool namens Agentic Vulnerability Discovery Harness (AVDH) ist bei Mandiant seit zehn Monaten im Einsatz. Laut einem Blogbeitrag der Google Threat Intelligence Group wurden dabei zig Millionen Zeilen Code gescannt und zehntausende Ergebnisse erzielt. Zeitgleich kündigte Palo Alto Networks ↘ 1.92% sein Frontier AI Critical Defense Program an, eine Gemeinschaftsinitiative zum Schutz kritischer Infrastrukturen vor KI-gestützten Angriffen.helpnetsecurity+1

Funktionsweise von AVDH

AVDH basiert auf dem Agent Development Kit von Google und arbeitet als Pipeline spezialisierter Agenten. Ein erster Agent kartiert die Codebasis und erstellt ein Bedrohungsmodell, das von einem Menschen geprüft wird, bevor der Scan beginnt. Nachfolgende Agenten identifizieren Einstiegspunkte für Benutzereingaben, sammeln Kontext wie Berechtigungsprüfungen und Eingabebereinigungen und stellen Hypothesen über potenzielle Zugriffsprobleme und gefährliche Datenflüsse auf.cloud.google+1

Mehrere Agenten validieren anschließend jede Hypothese, wobei sie bewusst mit hohen Temperatureinstellungen betrieben werden, um ihre Argumentationsbreite zu erhöhen. Ein Synthese-Agent sortiert die Ergebnisse in bestätigte, widerlegte oder abgelehnte Kategorien. Jedes bestätigte Ergebnis erfordert weiterhin einen Mandiant-Berater, der den Exploit mit Proof-of-Concept-Code reproduziert, bevor er gezählt wird.helpnetsecurity

Das Tool hat bereits zu 12 zugewiesenen CVEs in weit verbreiteten Web-Erweiterungen und Open-Source-Projekten geführt, wobei "ein weiteres Dutzend derzeit in der aktiven Offenlegung ist", schrieben die Forscher Alex Tselevich und Michael Maturi.cloud.google+1

Palo Alto Networks reagiert auf Patch-Lücke

Palo Alto Networks gab bekannt, dass seine eigenen Frontier-KI-Modelle mehr als 14.000 bisher unbekannte Schwachstellen in Open-Source-Software identifiziert haben. Das neue Frontier AI Critical Defense Program bringt Partner wie Anthropic, OpenAI, IBM International Business Machines Corporation ↗ 2.34%, Red Hat, Microsoft ↘ 0.31%, Siemens, das Idaho National Laboratory, Mitsubishi und Axis Communications zusammen, um proaktive virtuelle Patches auf Netzwerkebene bereitzustellen, die Schwachstellen neutralisieren, bevor Software-Fixes sicher implementiert werden können.streetinsider+1

"Im Zeitalter der Frontier-KI ist das traditionelle, reaktive Rennen um die Entwicklung und Bereitstellung von Software-Patches, bevor Angreifer eine Schwachstelle ausnutzen, ein verlorener Kampf", sagte Lee Klarich, Chief Product Officer bei Palo Alto Networks, in einer Stellungnahme.streetinsider

Ein sich verschärfendes Wettrüsten

Die Ankündigungen kommen inmitten wachsender Sorge, dass KI die Zeitspanne zwischen der Entdeckung einer Schwachstelle und deren Ausnutzung verkürzt. Im Mai dokumentierte die Threat Intelligence Group von Google den ersten öffentlich bekannten Zero-Day-Exploit, der mit KI-Unterstützung erstellt wurde, bei dem eine kriminelle Gruppe große Sprachmodelle nutzte, um eine Logiklücke in einem Open-Source-Administrationstool zu identifizieren. Die Cloud Security Alliance warnte im August, dass die KI-gestützte Schwachstellensuche die Patch-Kapazitäten von Unternehmen übersteigt.hothardware+2

Die Forscher von Mandiant erkannten die Spannung an. "Manuelle Quellcode-Überprüfungen können mit KI nicht Schritt halten, und traditionelle Scan-Engines übersehen konsequent das breite Spektrum an Schwachstellen, die in moderner Software verborgen sind", schrieben sie und fügten hinzu, dass ihre Ergebnisse zeigen, dass "Verteidiger den Vorteil gegenüber gegnerischer KI zurückgewinnen können".helpnetsecurity