Le modèle Claude Fable 5 d’Anthropic critiqué pour le blocage de questions de biologie élémentaires

Anthropic a lancé mardi Claude Fable 5, son premier modèle d'IA de classe Mythos disponible publiquement, mais les classificateurs de sécurité automatisés du système frustrent déjà les utilisateurs qui affirment que les garde-fous bloquent des questions de routine sur la biologie, la médecine et la cybersécurité — des sujets pour lesquels le modèle était spécifiquement commercialisé comme étant performant.

Filtres larges, accès restreint

Fable 5 partage son architecture sous-jacente avec Claude Mythos 5, un modèle restreint disponible uniquement pour les partenaires approuvés. La différence clé réside dans une couche de classificateurs qui surveillent les requêtes impliquant la cybersécurité, la biologie, la chimie et la distillation de modèles. Lorsqu'ils sont déclenchés, les réponses sont silencieusement redirigées vers Claude Opus 4.8, le précédent modèle phare d'Anthropic. Anthropic indique que ce recours se déclenche en moyenne dans moins de 5 % des sessions.techcrunch+2

Mais cette moyenne occulte un problème plus aigu. The Verge a rapporté mercredi que Fable a refusé de répondre à des questions de biologie élémentaires qu'un lycéen pourrait traiter, notamment des requêtes sur le rhume des foins, la résistance aux antibiotiques et le fonctionnement des médicaments contre l'asthme. Sur Reddit, un chercheur en cancérologie a déclaré que, parce que son profil de compte mentionne des termes comme « lignées cellulaires de cancer de la prostate », chaque requête — y compris les salutations et les questions sur la météo — est redirigée vers Opus 4.8. La porte-parole d'Anthropic, Paruul Maheshwary, a déclaré à The Verge que l'entreprise « a fait ce compromis afin que les clients bénéficient des capacités du modèle plus tôt sans les risques ».reddit+1

Réaction de l'industrie

Business Insider a noté que les restrictions ont suscité des critiques de la part d'analystes et d'utilisateurs précoces. Patrick Moorhead, PDG de Moor Insights & Strategy, a écrit sur X que Fable 5 a refusé d'aider à préparer des points de discussion pour l'analyse des résultats et une présentation au conseil d'administration car il jugeait les tâches « trop dangereuses ». « Est-ce là le modèle dont nous avons tous peur et qui fait qu'Anthropic vaut 1 000 milliards de dollars ? » a-t-il écrit.Business Insider Africa

Parallèlement, Microsoft ↗ 0.56% restreindrait l'utilisation de Fable 5 par ses employés en raison de préoccupations concernant la politique de conservation des données obligatoire de 30 jours d'Anthropic pour tout le trafic des modèles de classe Mythos, selon The Verge.U.S. News & World Report

Un compromis délibéré

Anthropic a été transparent sur le fait que les filtres de biologie sont intentionnellement conservateurs. L'entreprise a déclaré que Fable 5 est le premier modèle de classe Mythos dont elle estime qu'il a « la capacité d'être utilisé par des acteurs malveillants pour des recherches biologiques hautement risquées », et qu'une approche trop prudente était nécessaire pour un déploiement sécurisé. L'entreprise affirme qu'elle travaille à réduire les faux positifs et prévoit d'étendre l'accès sans restriction à Mythos 5 à un plus large éventail de chercheurs en sciences de la vie via un programme d'accès de confiance.anthropic+1

Jusqu'au 22 juin, Fable 5 reste inclus sans frais supplémentaires pour les abonnés Pro, Max, Team et Enterprise. Après cette date, l'accès nécessitera des crédits d'utilisation.thenextweb+1