EU-Cyberbehörde trifft Anthropic nach Exportverbot für Fable 5

Das US-Handelsministerium ordnete am 12. Juni an, dass Anthropic Fable 5 und Mythos 5 deaktiviert, nachdem Amazon-CEO Andy Jassy Beamte Berichten zufolge davor gewarnt hatte, dass die Modelle Cyberangriffe erleichtern könnten.thenextweb+1
Anthropic bezeichnete die Reaktion als unverhältnismäßig und erklärte, der Jailbreak betreffe "bereits bekannte, geringfügige Schwachstellen", die auch in Modellen der Konkurrenz vorhanden seien. Am Montag traf sich das Unternehmen mit Vertretern des Weißen Hauses, um den Streit beizulegen.thenextweb
Die Europäische Kommission bestätigte, dass die ENISA am Donnerstag in San Francisco mit Anthropic zusammentreffen wird. Das Treffen war ursprünglich geplant, um den EU-Zugang zu Mythos im Rahmen der Initiative Project Glasswing zu erörtern.techcrunch

Der beispiellose Einsatz von Exportkontrollen durch das US-Handelsministerium, um Anthropic zur Deaktivierung seiner fortschrittlichsten KI-Modelle zu zwingen, hat unter Cybersicherheitsexperten Alarm ausgelöst und internationale Aufmerksamkeit erregt. Die Cybersicherheitsagentur der Europäischen Union, ENISA, wird sich am Donnerstag in San Francisco mit dem Unternehmen treffen, um die Folgen zu erörtern.

Die Abschaltung

Am Abend des 12. Juni sandte Handelsminister Howard Lutnick ein Schreiben an Anthropic-CEO Dario Amodei, in dem er das Unternehmen anwies, den Zugriff auf Fable 5 und Mythos 5 für alle ausländischen Staatsangehörigen, ob innerhalb oder außerhalb der Vereinigten Staaten, einschließlich der nicht-amerikanischen Mitarbeiter von Anthropic, zu sperren. Da Anthropic über keinen Mechanismus verfügt, um Benutzer in Echtzeit selektiv nach Nationalität zu filtern, deaktivierte das Unternehmen beide Modelle innerhalb weniger Stunden weltweit für alle Kunden.contracollective+3

Dies war das erste Mal, dass die US-Regierung Exportkontrollen einsetzte, um den Zugriff auf ein kommerziell verfügbares KI-Modell zu beschränken, das bereits weit verbreitet war. Die anderen Claude-Modelle von Anthropic, einschließlich Opus 4.8, blieben davon unberührt.fortune+2

Amazons Rolle und die Sorge vor Jailbreaks

Der Auslöser scheint auf Amazon Amazon.com, Inc. zurückzuführen zu sein. Laut dem Wall Street Journal teilte Amazon-CEO Andy Jassy Finanzminister Scott Bessent und anderen Beamten mit, dass Amazon-Forscher Fable 5 genutzt hätten, um Informationen zu erhalten, die Cyberangriffe erleichtern könnten. Kurz darauf verhängte die Regierung das Exportverbot.thenextweb+1

Anthropic hat sich dagegen gewehrt und erklärt, die Anweisung basiere auf einem "begrenzten, nicht universellen Jailbreak, der Fähigkeiten betrifft, die bereits in anderen Modellen verfügbar sind". Das Unternehmen gab an, der Jailbreak habe nur "eine kleine Anzahl bereits bekannter, geringfügiger Schwachstellen" aufgedeckt und bezeichnete die Reaktion der Regierung als unverhältnismäßig.facebook+1

Berichten zufolge handelte das Weiße Haus teilweise aufgrund des Verdachts, dass eine mit China verbundene Gruppe auf Mythos zugegriffen habe, was die Befürchtung aufkommen ließ, das Modell könnte von einem ausländischen Gegner zurückentwickelt werden.forbes

Cybersicherheits-Rückschlag und EU-Reaktion

Dutzende Cybersicherheitsexperten veröffentlichten einen offenen Brief, in dem sie das Weiße Haus aufforderten, die Beschränkungen aufzuheben. Sie warnten, dass dieser Schritt einen Präzedenzfall schaffe, der amerikanische KI-Unternehmen davon abhalten könnte, fortschrittliche Sicherheitswerkzeuge zu entwickeln. TechCrunch bezeichnete die Durchsetzungsmaßnahme als "einen Weckruf für jedes US-Technologieunternehmen".techcrunch+1

Unterdessen bestätigte die Europäische Kommission am Mittwoch, dass die ENISA am Donnerstag in San Francisco mit Anthropic zusammentreffen wird. Das Treffen wurde vor der Exportkontrollanordnung vereinbart, als Anthropic sich darauf vorbereitete, der ENISA im Rahmen seiner Initiative Project Glasswing Zugang zu Mythos zu gewähren. Bloomberg hatte am 1. Juni berichtet, dass die ENISA kurz davor stehe, als erste EU-Agentur Zugang zu dem Modell zu erhalten.devdiscourse+3

Anthropic traf sich am Montag in Washington separat mit Vertretern des Weißen Hauses und des Handelsministeriums, um zu versuchen, den Streit beizulegen.bbc

Quellen (29)