ProPublica: Anthropics KI findet Fehler schneller, als Microsoft sie beheben kann

Das KI-Modell Claude Mythos von Anthropic hat Software-Schwachstellen in Microsoft ↗ 0.52%-Produkten in einem Tempo aufgedeckt, das die Fähigkeit des Unternehmens zur Fehlerbehebung übersteigt, wie aus internen Aufzeichnungen und Dokumenten hervorgeht, die ProPublica vorliegen.propublica

In einem Treffen Mitte Mai namens Project Glasswing diskutierten Microsoft-Ingenieure, wie Mythos allein im April 90 kritische und 141 wichtige Fehler in SharePoint aufgedeckt hatte, wobei in der ersten Maihälfte noch mehr gefunden wurden. Engineering Manager Hans Andersen drängte seine Kollegen dazu, den Rückstand vor einer Frist am 31. Mai abzubauen, da das Modell von Anthropic danach breiter verfügbar sein würde. "Bitte, bitte, bitte, wenn eure Abteilung noch April-Fehler hat, kümmert euch darum", sagte Andersen der Gruppe.propublica

Die Dringlichkeit war spürbar. Als ein Ingenieur fragte, ob Angreifer bis zum 2. Juni Zugriff auf ihre Fehler haben würden, bestätigten Kollegen: "Ja."

Eine rekordverdächtige Patch-Last

Die Belastung ist öffentlich sichtbar geworden. Am 14. Juli veröffentlichte Microsoft Patches für mehr als 600 Schwachstellen im Rahmen seines monatlichen Patch Tuesday-Updates – ein absoluter Rekord. Fast alle wurden als wichtig oder kritisch eingestuft, und mindestens zwei wurden bereits aktiv ausgenutzt, darunter eine Schwachstelle in SharePoint Server.linkedin+2

"Nun, Leute. Hier sind wir. Die Bug-Apokalypse ist voll über uns hereingebrochen", schrieb Dustin Childs von der Zero Day Initiative an diesem Tag in einem Blogbeitrag.thezdi+1

Microsoft teilte ProPublica mit, dass das Gesamtvolumen "vorerst nicht abnehmen wird", betonte jedoch, dass das Unternehmen "massiv sowohl in Personal als auch in KI-gestützte Lösungen zur Fehlerpriorisierung investiert hat".propublica

Das breitere Umfeld

Die Herausforderung geht weit über Microsoft hinaus. Am 28. Juli gab Hitachi bekannt, dass die Teilnahme am Project Glasswing die Bedrohungsmodellierung für Codebasen mit Millionen von Zeilen von Wochen auf Stunden reduziert habe und Schwachstellen in unternehmenskritischer Software aufgedeckt habe, die bestehende Tools übersehen hatten.ibtimes

Ende Juni gab die Geheimdienstallianz Five Eyes eine ungewöhnliche gemeinsame Warnung heraus, dass KI-Modelle der nächsten Generation "grundlegend sowohl offensive als auch defensive Cyberfähigkeiten verändern" und dass "der Zeitrahmen nicht Jahre, sondern Monate beträgt".euronews+1

Vinh Nguyen, ehemaliger KI-Chef bei der National Security Agency und jetzt leitender technischer Berater bei Anthropic, warnte, dass Microsofts Standardansatz zur Priorisierung – bei dem die schwerwiegendsten Fehler zuerst behoben werden – unzureichend sein könnte. Da Mythos geringfügige Fehler zu verheerenden Angriffspfaden verketten könne, sagte er: "Die aktuelle Strategie zur Priorisierung unterschätzt möglicherweise die Risiken".propublica

"Es gibt keine Alternative", fügte Nguyen hinzu. "Die Patienten kommen in rasender Geschwindigkeit herein."propublica