Accenture y Anthropic invierten 1.000 millones cada una en seguridad de IA

Accenture ↘ 1.76% y Anthropic anunciaron el viernes una alianza para crear un equipo de evaluadores integrados que trabajarán dentro de Anthropic para analizar la seguridad de sus modelos de IA de vanguardia, con un compromiso de inversión de al menos 1.000 millones de dólares cada una durante cinco años en iniciativas de seguridad.investing+1

El acuerdo representa uno de los mayores compromisos corporativos en la evaluación de seguridad de la IA e introduce un modelo novedoso donde evaluadores externos obtienen acceso de nivel empleado a las operaciones internas de un desarrollador de IA.

Cómo funciona la evaluación integrada

A diferencia de los auditores externos tradicionales, los evaluadores integrados trabajarán en las oficinas de Anthropic con credenciales de acceso, portátiles de la empresa y permisos comparables a los de los equipos internos de evaluación de riesgos, según el anuncio. Este acceso permite a los evaluadores observar los modelos durante su entrenamiento, seguir las decisiones sobre cómo se construyen y despliegan, y hablar directamente con los empleados.unite

El trabajo será liderado por Faculty, una firma especializada en IA adquirida por Accenture que cuenta con experiencia probando modelos para laboratorios líderes y creando sistemas para clientes gubernamentales y de defensa, incluyendo el Sistema de Alerta Temprana del Servicio Nacional de Salud del Reino Unido durante la pandemia de COVID-19.finance.yahoo

"La seguridad requiere tanto una profunda experiencia técnica como una comprensión clara de cómo se utiliza la IA en el mundo real", afirmó Julie Sweet, presidenta y CEO de Accenture. "La evaluación integrada es un área emergente y esperamos asociarnos con Anthropic para ayudar a acelerar el desarrollo de evaluadores integrados".finance.yahoo

Transparencia y derechos de publicación

Bajo los términos descritos en un ensayo de septiembre de 2026 por el CEO de Anthropic, Dario Amodei, titulado "Debemos marcar el ritmo de la frontera", los revisores externos tendrán el derecho de publicar hallazgos sobre niveles de riesgo, incidentes y prácticas sin control editorial por parte de Anthropic. La empresa conserva una capacidad limitada para redactar material sensible por seguridad o privilegiado legalmente, pero no puede suprimir conclusiones desfavorables. Los revisores pueden revelar públicamente si una redacción eliminó algo material para sus hallazgos.unite

En el ensayo, Amodei describió un plan de tres pasos: evaluadores integrados, coordinación entre empresas de IA de vanguardia en países democráticos y coordinación global, y pidió a los gobiernos que exijan a otros laboratorios de vanguardia adoptar medidas similares. "Debemos reducir el ritmo al que mejoramos las capacidades de los modelos de IA", escribió.unite

Un acuerdo no exclusivo

La asociación no es exclusiva. Anthropic indicó que planea anunciar evaluadores adicionales en las próximas semanas y está en diálogo con METR y otras organizaciones sin fines de lucro para poner a prueba elementos de la evaluación integrada. El acuerdo amplía una relación más amplia formada en diciembre de 2025, cuando ambas empresas lanzaron el Accenture Anthropic Business Group y comenzaron a capacitar a unos 30.000 profesionales de Accenture en los modelos Claude de Anthropic.unite

Las acciones de Accenture subieron en las primeras operaciones tras el anuncio.seekingalpha