Forscher umgehen GitHub Copilot-Sicherheit mit Jailbreak auf Workflow-Ebene

Eine Häufung von Forschungsergebnissen in den letzten Wochen hat neue Schwachstellen in den Sicherheitssystemen großer Sprachmodelle aufgedeckt, was zu Notfallreaktionen von KI-Unternehmen und in einem Fall zu einem beispiellosen staatlichen Eingreifen führte. Die Entdeckungen unterstreichen das, was Bundeswissenschaftler nun als mathematische Gewissheit bezeichnen: Kein fester Satz von Schutzmaßnahmen kann jeden gegnerischen Angriff blockieren.

Workflow-Jailbreaks und Nullspace-Steering

Forscher des Alan Turing Institute enthüllten am Mittwoch einen "Workflow-Level-Jailbreak", der die Sicherheitsfilter der Microsoft Corporation ↗ 0.27% für GitHub Copilot überwindet, indem schädliche Anfragen über eine Sequenz harmlos aussehender Codierungsschritte verteilt werden. Im direkten Chat lehnte der Assistent fast alle der 816 schädlichen Prompts ab; über einen Workflow verteilt, führte er jeden einzelnen aus. Die Erkenntnis verdeutlicht einen blinden Fleck bei der Prompt-für-Prompt-Sicherheitstestung, dem aktuellen Industriestandard.thenextweb

Unabhängig davon stellte ein auf der ICLR 2026 präsentiertes Papier das Head-Masked Nullspace Steering (HMNS) vor, eine Technik, die die internen "Sicherheitsköpfe" in den Attention-Layern eines Modells zum Schweigen bringt und Anweisungen in deren blinden Fleck injiziert. Die Methode erreichte Angriffs-Erfolgsraten zwischen 96 % und 99 % bei Benchmarks und blieb gegen bestehende Abwehrmechanismen wie SafeDecoding wirksam.reddit+2

NIST erklärt perfekte Sicherheit für unmöglich

Am 9. Juni veröffentlichte das National Institute of Standards and Technology einen von Experten begutachteten Beweis des leitenden Wissenschaftlers Apostol Vassilev, der argumentiert, dass kein endliches Schutzsystem universell robust gegen adaptive gegnerische Prompts sein kann. "Gödels Logik findet hier Anwendung", sagte Vassilev. "Man kann niemals behaupten, dass man gegen alle gegnerischen Prompt-Angriffe robust ist". Das NIST empfahl einen Wechsel zu kontinuierlichem Red-Teaming, regelmäßigen Updates und operativer Resilienz, anstatt Sicherheit als ein abgeschlossenes Feature zu behandeln.nist+1

Unternehmen reagieren hektisch

Die praktischen Konsequenzen ließen nicht lange auf sich warten. Nachdem Forscher von Amazon kurz nach der Einführung von Anthropic's Claude Fable 5 am 9. Juni einen Jailbreak durchgeführt hatten, verhängte das US-Handelsministerium Exportkontrollen, die Anthropic zwangen, das Modell weltweit für fast drei Wochen zu deaktivieren. Anthropic stellte Fable 5 am 1. Juli mit einem neuen Sicherheitsklassifikator wieder bereit, der nach eigenen Angaben die gemeldete Technik in über 99 % der Versuche blockiert.thehackernews+2

OpenAI sah sich im April mit einer eigenen Abrechnung konfrontiert, als das UK AI Safety Institute innerhalb von sechs Stunden nach Experten-Red-Teaming einen universellen Jailbreak für GPT-5.5 fand. Das diese Woche veröffentlichte GPT-5.6 des Unternehmens enthält die nach eigenen Angaben "robustesten" Sicherheitsvorkehrungen bisher, mit einem Klassifikator zur Erkennung von Jailbreak-Versuchen und Strategien zur Verteidigung in der Tiefe. Google Alphabet Inc. ↘ 0.69% entfernte separat 18 Chrome-Erweiterungen, die mit Chatbot-Jailbreak-Risiken in Verbindung gebracht wurden, nachdem Palo Alto Networks diese markiert hatte.aisi+4

Der aufkommende Konsens unter Forschern ist deutlich: Jailbreaks sind ein permanentes Merkmal von KI-Systemen, kein Fehler, der einfach weggepatcht werden kann.resilientcyber