Anthropic stellt gemeinsam mit Amazon, Microsoft und Google eine Skala für die Schwere von KI-Jailbreaks vor

Anthropic veröffentlichte am 2. Juli sein Cyber Jailbreak Severity-Framework, das gemeinsam mit Amazon, Microsoft und Google entwickelt wurde, um die Bewertung von KI-Jailbreaks zu standardisieren.letsdatascience+1
Die CJS-Skala bewertet Jailbreaks von CJS-0 bis CJS-4 anhand von vier Achsen – Fähigkeitszuwachs, Breite, einfache Bewaffnung und Auffindbarkeit – wobei die Punktzahlen erhöht, aber niemals gesenkt werden können.cybersecuritynews+1
Fable 5 kehrte am 1. Juli nach einer 19-tägigen Exportkontrollsperre weltweit zurück, mit neuen Sicherheitsklassifikatoren, die Cybersicherheitsanfragen in vier Risikostufen statt in pauschale Sperren einteilen.marktechpost+1

Anthropic hat sein Claude Fable 5-Modell weltweit wieder bereitgestellt, nachdem das US-Handelsministerium die Exportkontrollen aufgehoben hat, die das KI-System 19 Tage lang offline gehalten hatten. Am Mittwoch veröffentlichte das Unternehmen zudem ein neues Branchen-Framework zur Bewertung der Schwere von KI-Jailbreaks.

Vom Exportverbot zur Wiedereinführung

Das Handelsministerium verhängte am 12. Juni Exportkontrollen für Fable 5 und das leistungsfähigere Modell Mythos 5, nachdem Forscher von Amazon Amazon.com, Inc. eine Jailbreak-Technik entdeckt hatten, die Fable 5 dazu brachte, Software-Schwachstellen zu kennzeichnen und in einem Fall sogar Exploit-Demonstrationscode zu schreiben. Die Anordnung folgte auf ein Telefonat zwischen Amazon-CEO Andy Jassy und Finanzminister Scott Bessent über die Entdeckung.letsdatascience+1

Handelsminister Howard Lutnick zog die Beschränkungen in einem Schreiben vom 30. Juni offiziell zurück und erklärte, dass für den Export, Reexport oder den Transfer innerhalb des Landes für keines der beiden Modelle mehr eine Lizenz erforderlich sei. Im Gegenzug stimmte Anthropic zu, Sicherheitsrisiken proaktiv zu erkennen und anzugehen, Standards für zukünftige Modelle zu entwickeln und bösartige Aktivitäten der Regierung zu melden. Anthropic bestätigte die Wiederherstellung am selben Abend auf X, und Fable 5 kehrte am 1. Juli weltweit über Claude.ai, Claude Code und Claude Cowork zu den Nutzern zurück.thenextweb+3

Ein abgestufter Ansatz für Cybersicherheit

Am 2. Juli veröffentlichte Anthropic eine detaillierte Dokumentation zu den Sicherheitsklassifikatoren von Fable 5, die Cybersicherheitsanfragen in vier Kategorien einteilen, anstatt alle sicherheitsrelevanten Anfragen zu blockieren. Die Entwicklung von Ransomware, die Verbreitung von Malware und Angriffe auf kritische Infrastrukturen werden immer blockiert, während Penetrationstests und die Entwicklung von Exploits bis zur Einführung besserer Autorisierungskontrollen eingeschränkt bleiben. Defensive Aufgaben wie sicheres Programmieren, Patch-Management und Sicherheitsaufklärung sind standardmäßig erlaubt.cybersecuritynews+1

Neben der Offenlegung der Klassifikatoren veröffentlichte Anthropic einen ersten Entwurf seines Cyber Jailbreak Severity-Frameworks, das mit Partnern wie Amazon, Microsoft und Google Alphabet Inc. im Rahmen der Glasswing-Zusammenarbeit entwickelt wurde. Die CJS-Skala bewertet Jailbreaks von CJS-0 (Informationell) bis CJS-4 (Kritisch) anhand von vier Achsen: Fähigkeitszuwachs, Breite, einfache Bewaffnung und Auffindbarkeit. Die Punktzahlen können erhöht, aber niemals reduziert werden. Anthropic hat Feedback unter [email protected] ermöglicht und ein spezielles HackerOne-Bug-Bounty-Programm für Forscher gestartet.cyberpress+2

Abonnementzugang und Ausblick

Die Einführung ist mit einem Preisvorbehalt verbunden. Pro-, Max-, Team- und ausgewählte Enterprise-Abonnenten können Fable 5 bis zum 7. Juli ohne zusätzliche Kosten mit bis zu 50 Prozent ihrer wöchentlichen Nutzungsgrenzen verwenden. Nach diesem Datum wird jeder Fable 5-Token auf eine nutzungsbasierte Abrechnung zu Standard-API-Preisen umgestellt – 10 US-Dollar pro Million Eingabe-Token und 50 US-Dollar pro Million Ausgabe-Token –, bis die Kapazität eine vollständige Rückkehr zu gebündelten Abonnements ermöglicht. Der Zugriff auf den Cloud-Marktplatz über AWS, Google Cloud und Microsoft Foundry wird ebenfalls wiederhergestellt.marktechpost+2

Quellen (15)