jailbreak

Forscher umgehen GitHub Copilot-Sicherheit mit Jailbreak auf Workflow-Ebene

Eine Häufung von Forschungsergebnissen in den letzten Wochen hat neue Schwachstellen in den Sicherheitssystemen großer Sprachmodelle aufgedeckt, was zu Notfallreaktionen von KI-Unternehmen und in einem Fall zu einem beispiellosen staatlichen Eingreifen führte. Die Entdeckungen unterstreichen das, was Bundeswissenschaftler nun als…