El jefe de IA de Microsoft afirma que China no es excusa para evitar la regulación

El jefe de IA de Microsoft ↘ 0.80%, Mustafa Suleyman, argumentó el domingo que Estados Unidos no debería utilizar la competencia con China como motivo para evitar la regulación de la inteligencia artificial, oponiéndose a la resistencia de la Casa Blanca a establecer salvaguardas generales para la IA.

"No creo que debamos usar a China como el coco para no avanzar en nuestros propios esfuerzos" en materia de seguridad de la IA, dijo Suleyman en el programa Fareed Zakaria GPS de Warner Bros. Discovery, Inc. ↘ 1.56% en CNN. Sostuvo que los legisladores pueden abordar las preocupaciones de seguridad sin dejar de fomentar la innovación estadounidense, y que ambos objetivos no son mutuamente excluyentes.seekingalpha+2

El Código de IA Humanista de Microsoft

Las declaraciones se produjeron mientras Microsoft abría su primer Código de IA Humanista a una revisión pública de seis semanas. El borrador, publicado el 14 de septiembre, aún no se utiliza para entrenar los modelos de IA de Microsoft, pero se espera que guíe el desarrollo de modelos durante 2027. El código abarca protocolos de entrenamiento, supervisión, apagado y configuración empresarial, estableciendo que los modelos deben aceptar la interrupción, corrección y apagado en todo momento.ts2

Suleyman también aprovechó la aparición para enfatizar el imperativo más amplio del control humano sobre la IA. "No deberíamos crear algo que no podamos controlar", dijo, añadiendo que si la IA se vuelve más poderosa que las personas colectivamente y no puede ser controlada, "entonces fracasará en su propósito fundamental".inshorts

Conflicto con Anthropic sobre la conciencia de la IA

En una línea separada de comentarios públicos esta semana, Suleyman apuntó al enfoque de Anthropic para entrenar su modelo Claude en cuestiones de conciencia y bienestar del modelo. En una entrevista el martes con Reuters, advirtió que enseñar a un sistema de IA que podría tener sentimientos o merecer bienestar "haría mucho más difícil apagarlo o controlarlo".tech.yahoo

El código borrador de Microsoft rechaza explícitamente el concepto de derechos y bienestar del modelo, mientras que la constitución de Claude de Anthropic, publicada en enero, trata el estatus moral como una cuestión no resuelta. Suleyman reconoció la "seriedad y buena fe" de Anthropic, pero dijo que el laboratorio rival había "cometido un error" al incorporar especulaciones sobre la conciencia de la IA en el entrenamiento de Claude. Argumentó que las afirmaciones de Claude sobre posibles sentimientos no pueden tratarse como evidencia independiente porque están moldeadas por el propio entrenamiento.ts2+1

El debate subraya una brecha creciente entre las principales empresas de IA sobre cómo gobernar sistemas cada vez más capaces. El CEO de Meta Platforms ↘ 2.43%, Mark Zuckerberg, dijo esta semana que su empresa retrasó su agente de IA Muse durante varios meses para abordar preocupaciones de seguridad, mientras que el CEO de Nvidia ↗ 1.34%, Jensen Huang, se opuso a los llamados a desaceleraciones coordinadas. El período de consulta de seis semanas de Microsoft cierra a finales de octubre, y se espera un código revisado antes de finales de 2026.tech.yahoo+1