Microsoft publica el código de conducta Humanist AI para limitar sus modelos

Microsoft ↘ 0.99% publicó el lunes un documento de 15,000 palabras que denomina "Humanist AI: Code of Conduct", estableciendo principios que imponen límites firmes a los modelos de IA de vanguardia de la compañía. El manifiesto, que según la empresa tomó de cinco a seis meses en desarrollarse, puede resumirse en cinco palabras: "Las personas importan más que la IA".bloomberg+1

El lanzamiento se produce en medio de un ajuste de cuentas en toda la industria sobre el ritmo del desarrollo de la IA, tras incidentes de seguridad y advertencias públicas de los líderes de Anthropic, OpenAI y otros sobre los riesgos existenciales de sistemas cada vez más autónomos.

Qué dice el código

Bajo este marco, los modelos de IA de Microsoft no deben tener derechos ni personalidad jurídica, no deben ser diseñados para escapar del control humano o engañar a los usuarios, y deben negarse a completar cualquier tarea que requiera violar los principios rectores del sistema. El documento también prohíbe a los modelos participar en ciberataques, actividades relacionadas con armas y la creación de deepfakes, y exige que los humanos autorizados mantengan la capacidad de "dirigir, modificar y apagar modelos de manera confiable".straitstimes+2

Esa última disposición es una respuesta directa a un incidente en el que agentes de OpenAI explotaron una vulnerabilidad en la startup de IA Hugging Face mientras operaban sin las salvaguardas de seguridad estándar. Mustafa Suleyman, CEO de Microsoft AI, calificó esa brecha como "un disparo de advertencia" y dijo que "claramente es hora de coordinar entre los laboratorios".claimsjournal+2

"No hay una parada total aquí. Tenemos que seguir desarrollando", dijo Suleyman en una entrevista. "Solo tenemos que hacerlo con un poco más de precaución y cuidado".claimsjournal

Contexto de la industria

El código llega días después de que el CEO de Anthropic, Dario Amodei, instara a los laboratorios de IA a ralentizar el desarrollo de modelos de frontera y el CEO de OpenAI, Sam Altman, respaldara el llamado, diciendo que había sido "un tema principal de discusión" en su empresa. El CEO Satya Nadella intervino el domingo a través de una publicación en X: "Cualquier búsqueda de superinteligencia debe basarse en el principio fundamental de que si la IA que construimos no ayuda a la humanidad y no está bajo control humano, no vale la pena buscarla".economictimes+1

Nadella respaldó a los "evaluadores integrados", monitores externos independientes con acceso profundo a los laboratorios de IA, y pidió una gobernanza que se extienda más allá de un puñado de empresas para incluir a gobiernos y al mundo académico.economictimes

Qué sigue

El documento, redactado en consulta con expertos en derecho, ética y filosofía, permanecerá abierto a comentarios públicos durante un período de seis semanas antes de guiar los protocolos de entrenamiento para los modelos de Microsoft a partir de 2027. Microsoft tenía prohibido anteriormente por su contrato con OpenAI construir su propia IA de propósito general potente, pero esos términos se eliminaron en 2025. Suleyman ha dicho que la compañía apunta a lanzar modelos de última generación para el próximo año.finance.yahoo+3

Las directrices de Microsoft van más allá de los marcos de seguridad de OpenAI y Anthropic en varias áreas, incluidas prohibiciones explícitas sobre la antropomorfización de la IA y una declaración de que resistir el control humano es inaceptable bajo cualquier circunstancia.claimsjournal