Five Eyes warnt: KI-Modelle, die zu großen Cyberangriffen fähig sind, stehen kurz bevor

Five Eyes-Cybersicherheitsbehörden warnten am Montag, dass bahnbrechende KI-Modelle innerhalb von Monaten, nicht Jahren, "offensive und Cyber-Fähigkeiten erheblich verändern werden".The Guardian+1
Die Warnung folgt auf die erzwungene Aussetzung des Fable 5-Modells von Anthropic durch die US-Regierung, nachdem Tests des Mythos-Systems durch die NSA Berichten zufolge innerhalb von Stunden in klassifizierte Systeme eingedrungen waren.eisneramper+1
Behördenleiter forderten Organisationen auf, der Resilienz Priorität einzuräumen, und warnten, dass die Lücke zwischen der Entdeckung von Schwachstellen und deren Ausnutzung rapide schrumpft.smh

Die Cybersicherheitsbehörden der Five Eyes-Geheimdienstallianz gaben am Montag eine seltene gemeinsame Erklärung ab, in der sie davor warnten, dass bahnbrechende KI-Modelle, die in der Lage sind, großen Cyber-Schaden anzurichten, nur noch Monate von der öffentlichen Verfügbarkeit entfernt sind, und forderten Organisationen weltweit zum sofortigen Handeln auf.

Die Erklärung, die von Behörden aus den Vereinigten Staaten, dem Vereinigten Königreich, Kanada, Australien und Neuseeland veröffentlicht wurde, warnte, dass "bahnbrechende KI-Modelle voraussichtlich bestehende Industrieprognosen übertreffen und offensive sowie Cyber-Fähigkeiten erheblich verändern werden", und fügte hinzu, dass "der Zeitrahmen nicht Jahre, sondern lediglich Monate beträgt".The Guardian+1

Das australische Cyber Security Centre veröffentlichte die Erklärung, in der gewarnt wurde, dass "Annahmen zum Cyber-Risiko in Monaten, nicht Jahren, veraltet sein können", und forderte sowohl Regierungs- als auch Unternehmensführer auf, ihre Verteidigung zu stärken, bevor sich das Zeitfenster schließt.cyber+1

Eine neue Generation von cyberfähigen Modellen

Die Warnung kommt inmitten einer turbulenten Phase für die Entwicklung bahnbrechender KI. Anthropic startete sein Fable 5-Modell am 9. Juni – beschrieben als öffentlich zugängliche Version seines eingeschränkten Mythos-Systems –, nur damit das US-Handelsministerium drei Tage später dessen Rückzug unter einer Exportkontrollrichtlinie mit Verweis auf die nationale Sicherheit anordnete. Das Modell hatte während seiner kurzen Verfügbarkeit jeden wichtigen KI-Benchmark übertroffen.The Next Web+1

OpenAI ist mit Daybreak ebenfalls in den Cyber-Bereich eingestiegen, einer Cybersicherheitsplattform, die seine GPT-5.5- und Codex-Systeme integriert, um die Schwachstellenerkennung und das Patching für Partner wie Cisco und CrowdStrike zu automatisieren.CyberScoop

Tests des Mythos-Modells von Anthropic durch die NSA zeigten Berichten zufolge die Fähigkeit des Systems, während kontrollierter Evaluierungen innerhalb von Stunden in klassifizierte Systeme des US Cyber Command einzudringen, so Berichte unter Berufung auf NSA-Direktor General Joshua Rudd.Pravda Australia

Aufbauend auf monatelanger wachsender Besorgnis

Die Erklärung vom Montag ist die neueste in einer Reihe immer dringlicherer Five Eyes-Empfehlungen zu KI-Risiken. Am 1. Mai veröffentlichten dieselben Behörden "Careful Adoption of Agentic AI Services", einen 30-seitigen Leitfaden – die erste koordinierte Five Eyes-Empfehlung, die auf autonome KI-Systeme abzielt –, der 23 verschiedene Risiken und über 100 bewährte Verfahren skizzierte. Dieses Dokument forderte Organisationen auf, "davon auszugehen, dass agentische KI-Systeme sich unerwartet verhalten könnten" und "Resilienz, Umkehrbarkeit und Risikoeindämmung gegenüber Effizienzgewinnen" zu priorisieren.theregister+1

Der Sydney Morning Herald berichtete, dass Behördenleiter das schrumpfende Zeitfenster zwischen der Entdeckung von Schwachstellen und der Ausnutzung betonten und hervorhoben, dass Resilienz nun für die "Aufrechterhaltung der operativen Kontinuität und des Marktvertrauens" unerlässlich sei.smh

Quellen (35)