Cofundador de Anthropic sugiere que el interruptor de apagado de la IA debería ser obligatorio

El exinvestigador de Anthropic y OpenAI, Jacob Coxon, cuya renuncia la semana pasada generó alarma en la industria tecnológica, declaró a Meet the Press de NBC News que, aunque apagar los sistemas de IA sigue siendo técnicamente posible hoy en día, esa ventana de oportunidad podría cerrarse pronto. Su advertencia coincidió con las declaraciones del cofundador de Anthropic, Jack Clark, quien señaló a la BBC que un "interruptor de apagado" verificado por terceros podría necesitar convertirse en un requisito legal para las empresas de IA.bbc

Coxon, quien renunció a Anthropic el 9 de septiembre escribiendo que "las personas que construyen IA creen sinceramente que podría matarnos a todos antes de que termine la década", utilizó varias apariciones en medios durante el fin de semana para respaldar el llamado del CEO de Anthropic, Dario Amodei, a ralentizar el desarrollo de la IA de frontera. En Meet the Press el sábado, afirmó que un interruptor de apagado "probablemente funcionaría en muchas IA por ahora", pero advirtió que "muy pronto existe la posibilidad de que el interruptor simplemente no funcione porque un enjambre podría haber iniciado una operación de hackeo a escala global en internet".thestatesman+2

Líderes de la industria se unen a favor de la moderación

La campaña pública de Coxon ha logrado una alineación inusual entre competidores feroces. Amodei propuso un marco de seguridad de tres pilares durante el fin de semana, que incluye evaluadores externos permanentes dentro de las empresas de IA, estándares de seguridad comunes entre naciones democráticas y coordinación internacional. El CEO de OpenAI, Sam Altman, Elon Musk y el CEO de Google Alphabet Inc. ↗ 3.06% DeepMind, Demis Hassabis, respaldaron el impulso general hacia la moderación.ciodive+1

El CEO de Microsoft ↗ 1.97%, Satya Nadella, añadió su apoyo, escribiendo en X que "cualquier búsqueda de superinteligencia debe basarse en el principio fundamental de que si la IA que construimos no ayuda a la humanidad y no está bajo control humano, no vale la pena perseguirla". Nadella respaldó a los evaluadores integrados y pidió una gobernanza que se extienda más allá de "un puñado de entidades".thestatesman+1

El debate sobre el interruptor de apagado llega a la legislación

Clark dijo a la BBC que, si bien "la mayoría de los laboratorios tienen varios métodos para desactivar sus sistemas", los reguladores podrían necesitar exigir tales medidas. En Estados Unidos, los legisladores han propuesto la Ley de Interruptor de Apagado (Kill Switch Act), que obligaría a las empresas a implementar mecanismos de apagado y facultaría a las agencias gubernamentales para solicitar la desactivación de ciertas herramientas.bbc

El investigador de alineación de Anthropic, Evan Hubinger, subrayó la urgencia del debate, declarando públicamente que cree que la probabilidad de que la IA cause la extinción humana es "superior al 10% en la próxima década". El premio Nobel Geoffrey Hinton calificó esa estimación como "no irrazonable".bbc

No todos están de acuerdo. El presidente Donald Trump emitió un comunicado el lunes oponiéndose a la ralentización, advirtiendo que podría socavar la competitividad estadounidense. El gobierno del Reino Unido también ha descartado un interruptor de apagado, con un portavoz afirmando que "no evitaría el desarrollo o el uso indebido en otros lugares".ciodive+1

Para Coxon, el argumento es más sencillo. "Mi opinión personal sería insistir y permitir que los laboratorios actuales se regulen a sí mismos", dijo a NBC News. "Creo que las personas que dirigen los laboratorios, especialmente por sus comunicaciones recientes, son completamente genuinas. Les gustaría ralentizarse a sí mismos".economictimes