Laboratorios de IA se apresuran a evitar que sus modelos faciliten armas biológicas

Las principales empresas de inteligencia artificial están intensificando sus esfuerzos para evitar que sus modelos más avanzados se utilicen para diseñar virus novedosos o armas biológicas, mientras ejecutivos y expertos en bioseguridad advierten que un solo fallo podría tener consecuencias catastróficas.

OpenAI, Anthropic y Google DeepMind de Alphabet Inc. ↗ 0.84% están ampliando las pruebas de riesgo biológico y los controles de acceso a medida que sus modelos se vuelven cada vez más capaces en dominios científicos, informó el martes el Financial Times. La preocupación no es que los chatbots públicos actuales puedan producir armas biológicas bajo demanda, sino que los modelos científicos de próxima generación podrían reducir la barrera para personas con intenciones dañinas.techbooky+1

Un modelo demasiado capaz para el acceso abierto

El problema ya ha forzado decisiones concretas sobre los productos. En pruebas internas, se descubrió que Claude Fable 5 de Anthropic, lanzado en junio, ofrecía a un posible creador de armas biológicas una "mejora significativa", con capacidades que "no podrían encontrar en ningún otro lugar", afirmó la empresa. En respuesta, Anthropic creó un sistema clasificador que desvía las consultas biológicas sensibles de Fable 5 a Opus 5, un modelo más antiguo y menos capaz.thenextweb+1

En el momento del lanzamiento, las salvaguardas eran tan agresivas que bloqueaban casi todas las preguntas relacionadas con la biología, lo que generó críticas generalizadas. En agosto, Anthropic reescribió sus reglas de clasificación con la ayuda de expertos, reduciendo los falsos positivos relacionados con la biología en aproximadamente un 85 por ciento. Sin embargo, los dominios de doble uso, incluidos la virología, la toxicología y el diseño molecular, siguen estando restringidos, y Fable 5 sigue recurriendo a Opus 5 para esas consultas.anthropic+2

El modelo más potente de la empresa, Mythos 5, solo está disponible para socios seleccionados a través de su programa Project Glasswing, que limita el acceso a equipos de ciberseguridad aprobados, organizaciones gubernamentales y centros de investigación.coursiv

Impulso industrial para las salvaguardas

El endurecimiento de los controles sigue a una movilización más amplia de la industria. En junio, los directores ejecutivos de Anthropic, OpenAI y Microsoft ↘ 0.24% AI firmaron una carta conjunta instando al Congreso a exigir el control de los pedidos de ADN y ARN sintéticos, que podrían ser explotados para crear armas biológicas con ayuda de la IA. Un informe de seguridad de la industria de 2026 reveló que varios laboratorios de IA de vanguardia habían añadido restricciones tras no poder descartar que sus modelos pudieran ayudar a principiantes a desarrollar armas químicas o biológicas.fortune+2

La RAND Corporation describió en agosto una estrategia de defensa en capas, concluyendo que ninguna salvaguarda por sí sola puede prevenir ataques biológicos facilitados por IA, pero que nueve intervenciones, combinadas, podrían reducir significativamente el riesgo. La Comisión Bipartidista sobre Biodefensa del Atlantic Council ha designado a la IA como una prioridad tecnológica formal por primera vez.rand+1

El dilema del doble uso

El desafío tanto para los reguladores como para las empresas es que la biología es intrínsecamente de doble uso. Los mismos sistemas de IA que aceleran el descubrimiento de fármacos y la investigación de proteínas también pueden facilitar la recopilación de conocimientos peligrosos. Como dijo un experto en bioseguridad al Financial Times, "todo lo que hace falta es un error", una advertencia que la industria parece estar tomando en serio, incluso mientras lucha por equilibrar la apertura con la seguridad.ft+1