Claude Fable 5 de Anthropic recibe críticas por bloquear preguntas básicas de biología

Anthropic lanzó Claude Fable 5 el martes, su primer modelo de IA de clase Mythos disponible públicamente, pero los clasificadores de seguridad automatizados del sistema ya están frustrando a los usuarios, quienes afirman que las salvaguardas bloquean preguntas rutinarias sobre biología, medicina y ciberseguridad, temas en los que el modelo fue comercializado específicamente como sobresaliente.

Filtros amplios, acceso limitado

Fable 5 comparte su arquitectura subyacente con Claude Mythos 5, un modelo restringido disponible solo para socios verificados. La diferencia clave es una capa de clasificadores que monitorean las solicitudes relacionadas con ciberseguridad, biología, química y destilación de modelos. Cuando se activan, las respuestas se redirigen silenciosamente a Claude Opus 4.8, el modelo superior anterior de Anthropic. Anthropic afirma que la alternativa se activa en menos del 5 por ciento de las sesiones en promedio.techcrunch+2

Pero ese promedio oculta un problema más agudo. The Verge informó el miércoles que Fable se negó a responder preguntas básicas de biología que un estudiante de secundaria podría manejar, incluidas consultas sobre la fiebre del heno, la resistencia a los antibióticos y cómo funcionan los medicamentos para el asma. En Reddit, un investigador del cáncer dijo que debido a que el perfil de su cuenta menciona términos como "líneas celulares de cáncer de próstata", cada consulta —incluidos los saludos y las preguntas sobre el clima— se redirige a Opus 4.8. La portavoz de Anthropic, Paruul Maheshwary, dijo a The Verge que la compañía "hizo este intercambio para que los clientes se beneficien de las capacidades del modelo antes y sin los riesgos".reddit+1

Reacción de la industria

Business Insider señaló que las restricciones han generado críticas de analistas y usuarios tempranos. Patrick Moorhead, director ejecutivo de Moor Insights & Strategy, escribió en X que Fable 5 se negó a ayudar con puntos de discusión para el análisis de ganancias y una presentación ante la junta porque consideró que las tareas eran "demasiado peligrosas". "¿Es este el modelo del que todos tenemos miedo y que hace que Anthropic valga 1 billón de dólares?", escribió.Business Insider Africa

Mientras tanto, Microsoft ↗ 0.56% supuestamente está restringiendo el uso de Fable 5 por parte de los empleados debido a preocupaciones sobre la política de retención de datos obligatoria de 30 días de Anthropic para todo el tráfico de modelos de clase Mythos, según The Verge.U.S. News & World Report

Un compromiso deliberado

Anthropic ha sido transparente en cuanto a que los filtros de biología son intencionalmente conservadores. La compañía dijo que Fable 5 es el primer modelo de clase Mythos que cree que tiene "la capacidad de ser utilizado por actores malintencionados para investigaciones biológicas de alto riesgo", y que un enfoque excesivamente cauteloso era necesario para un despliegue seguro. La compañía dice que está trabajando para reducir los falsos positivos y planea extender el acceso sin restricciones a Mythos 5 a investigadores de ciencias biológicas más amplios a través de un programa de acceso confiable.anthropic+1

Hasta el 22 de junio, Fable 5 sigue incluido sin costo adicional para los suscriptores Pro, Max, Team y Enterprise. Después de eso, el acceso requerirá créditos de uso.thenextweb+1