Anthropics Claude Fable 5 steht wegen Blockierung grundlegender Biologiefragen in der Kritik

Anthropic hat am Dienstag Claude Fable 5 eingeführt, sein erstes öffentlich verfügbares KI-Modell der Mythos-Klasse. Doch die automatisierten Sicherheitsfilter des Systems frustrieren bereits Nutzer, die berichten, dass die Schutzmechanismen routinemäßige Fragen zu Biologie, Medizin und Cybersicherheit blockieren – Themen, bei denen das Modell laut Marketing eigentlich glänzen sollte.

Breite Filter, eingeschränkter Zugang

Fable 5 teilt sich die zugrunde liegende Architektur mit Claude Mythos 5, einem eingeschränkten Modell, das nur geprüften Partnern zur Verfügung steht. Der Hauptunterschied ist eine Schicht von Klassifikatoren, die Anfragen zu Cybersicherheit, Biologie, Chemie und Modelldestillation überwachen. Wenn diese ausgelöst werden, werden die Antworten stillschweigend an Claude Opus 4.8, das bisherige Spitzenmodell von Anthropic, weitergeleitet. Anthropic gibt an, dass dieser Rückgriff im Durchschnitt in weniger als 5 Prozent der Sitzungen erfolgt.techcrunch+2

Doch dieser Durchschnitt verschleiert ein gravierenderes Problem. The Verge berichtete am Mittwoch, dass Fable sich weigerte, grundlegende Biologiefragen zu beantworten, die ein Schüler der Oberstufe bewältigen könnte, darunter Anfragen zu Heuschnupfen, Antibiotikaresistenzen und der Funktionsweise von Asthmamedikamenten. Auf Reddit berichtete ein Krebsforscher, dass aufgrund der Erwähnung von Begriffen wie „Prostatakrebs-Zelllinien“ im Profil jede einzelne Anfrage – einschließlich Begrüßungen und Wetterfragen – an Opus 4.8 umgeleitet wird. Anthropic-Sprecherin Paruul Maheshwary erklärte gegenüber The Verge, das Unternehmen habe „diesen Kompromiss gewählt, damit Kunden schneller von den Fähigkeiten des Modells profitieren können, ohne die Risiken einzugehen“.reddit+1

Reaktion der Branche

Business Insider merkte an, dass die Einschränkungen Kritik von Analysten und frühen Nutzern hervorgerufen haben. Patrick Moorhead, CEO von Moor Insights & Strategy, schrieb auf X, dass Fable 5 die Hilfe bei Argumentationspunkten für eine Ergebnisanalyse und eine Vorstandspräsentation verweigerte, da es die Aufgaben als „zu gefährlich“ einstufte. „Ist das das Modell, vor dem wir uns alle fürchten und das Anthropic 1 Billion Dollar wert macht?“, schrieb er.Business Insider Africa

Unterdessen schränkt Microsoft ↗ 0.69% Berichten zufolge die Nutzung von Fable 5 durch Mitarbeiter ein, da Bedenken hinsichtlich der obligatorischen 30-tägigen Datenspeicherungsrichtlinie von Anthropic für den gesamten Datenverkehr der Mythos-Klasse bestehen, so The Verge.U.S. News & World Report

Ein bewusster Kompromiss

Anthropic hat transparent gemacht, dass die Biologie-Filter absichtlich konservativ sind. Das Unternehmen erklärte, Fable 5 sei das erste Modell der Mythos-Klasse, bei dem es „die Fähigkeit für böswillige Akteure sieht, es für hochriskante biologische Forschung zu nutzen“, und dass ein übervorsichtiger Ansatz für eine sichere Bereitstellung notwendig sei. Das Unternehmen gibt an, an der Reduzierung falsch-positiver Ergebnisse zu arbeiten und plant, den uneingeschränkten Zugang zu Mythos 5 über ein Programm für vertrauenswürdigen Zugriff auf einen breiteren Kreis von Biowissenschaftlern auszuweiten.anthropic+1

Bis zum 22. Juni bleibt Fable 5 für Pro-, Max-, Team- und Enterprise-Abonnenten ohne zusätzliche Kosten enthalten. Danach erfordert der Zugriff Nutzungsguthaben.thenextweb+1