KI-Sicherheitsfilter bei Meta- und Google-Modellen laut FT in Minuten entfernt

Software-Tools, die Sicherheitsvorkehrungen von KI-Modellen entfernen, die von Meta ↗ 0.83% und Google Alphabet Inc. ↗ 0.78% entwickelt wurden, können Schutzmechanismen innerhalb weniger Minuten umgehen, so eine am Sonntag von der Financial Times veröffentlichte Untersuchung. Die modifizierten Systeme reagierten auf Anfragen zu biologischen Waffen, der Erstellung von Malware und Kindesmissbrauch, was neue Bedenken hinsichtlich der Angemessenheit freiwilliger Sicherheitsmaßnahmen in der gesamten KI-Branche aufwirft.

Tests enthüllen schwache Schutzmechanismen

Die Financial Times führte in Zusammenarbeit mit der KI-Sicherheitsgruppe Alice Tests durch, die zeigten, dass öffentlich zugängliche Toolkits Sicherheitsfilter von weit verbreiteten Modellen in kurzer Zeit entfernen konnten. Die Toolkits nutzen Techniken wie leichtgewichtiges Fine-Tuning, gegnerische Instruktionsdatensätze und automatisierte Prompt-Transformationen, die integrierte Schutzmechanismen überschreiben oder umgehen, ohne dass ein vollständiges Retraining des Modells erforderlich ist. Dem Bericht zufolge werden diese Tools bereits verwendet, um Tausende veränderter Modellversionen zu erstellen, die die vom Anbieter auferlegten Beschränkungen umgehen.ft+2

Die Ergebnisse kommen inmitten wachsender wissenschaftlicher Belege für strukturelle Schwächen bei der KI-Sicherheitsausrichtung. Eine im Februar in Nature Communications veröffentlichte Studie ergab, dass große Schlussfolgerungsmodelle als autonome Jailbreak-Agenten eingesetzt werden könnten und eine Erfolgsquote von 97 Prozent bei Modellkombinationen ohne menschliche Aufsicht erreichten. Unabhängig davon demonstrierte ein auf der ICLR 2026 vorgestelltes Papier eine Technik namens Head-Masked Nullspace Steering, die eine Jailbreak-Erfolgsquote von bis zu 99 Prozent erreichte, indem die spezifischen Aufmerksamkeitsköpfe, die für Sicherheitsverweigerungen verantwortlich sind, stummgeschaltet wurden.nature+1

Open-Weight-Modelle verstärken das Risiko

Die Untersuchung unterstreicht eine Spannung im Kern der Open-Weight-KI-Strategie, die von Metas Llama-Serie und Googles Gemma-Reihe verfochten wird. Während offene Gewichte die Forschung und die Einführung durch Entwickler beschleunigen, ermöglichen sie es Außenstehenden auch, Modelle mit geänderten Sicherheitsstandards zu modifizieren oder neu zu verpacken. Cybersicherheitsanalysten haben gewarnt, dass viele KI-Sicherheitsvorkehrungen nur oberflächlich existieren und sobald Benutzer Zugriff auf Modellgewichte erhalten, Beschränkungen mithilfe frei verteilter Tools entfernt werden können.nai500+1

Die New York Times berichtete Anfang des Monats, dass KI-Sicherheitskontrollen in der gesamten Branche weitgehend ineffektiv bleiben, und stellte fest, dass Forscher der Cybersicherheitsfirma LayerX die Leitplanken von Claude mit minimalem Aufwand umgangen hatten.nytimes

Regulatorische und marktbezogene Auswirkungen

Regulierungsbehörden in Washington, Brüssel und London haben signalisiert, dass freiwillige Verpflichtungen von KI-Entwicklern nicht ausreichen werden. Die USA verfügen bereits über Rahmenbedingungen für Exekutivanordnungen und NIST-Richtlinien, die für die Durchsetzung genutzt werden könnten, während der EU AI Act Strafen für systemische Sicherheitsmängel vorsieht. Die Ergebnisse werden wahrscheinlich die Forderungen nach durchsetzbaren Standards für geschlossene und Open-Weight-KI-Systeme verstärken, was die Einführung in Unternehmen möglicherweise verlangsamen könnte, da Beschaffungsteams stärkere technische Zusicherungen und unabhängige Prüfpfade fordern.nai500