Newsletter Subscribe
Enter your email address below and subscribe to our newsletter
[forminator_form id="25163"]

xcnbc+1newsweekEl diputado laborista Darren Jones ha solicitado un nuevo tratado multinacional que regule el desarrollo de la superinteligencia, respondiendo directamente a la dimisión del investigador de Anthropic Jacob Coxon y a las advertencias de seguridad que le siguieron. Jones, exministro con una larga trayectoria en política tecnológica, publicó el miércoles en X que, aunque "nunca he pensado que debamos prohibir la innovación o el esfuerzo científico", ahora está "claro que necesitamos un nuevo tratado multinacional para el desarrollo seguro y regulado de la superinteligencia".x+1
La intervención de Jones se produjo horas después de que Coxon, un investigador de preentrenamiento de 27 años que trabajó tres años tanto en OpenAI como en Anthropic, anunciara en X su dimisión y su salida definitiva del sector de la IA. "Ninguna de las dos empresas actúa de forma responsable", escribió Coxon. "Corren directamente hacia una superinteligencia que se automejora y juegan con nuestras vidas".cnbc+1
La dimisión provocó una sorprendente respuesta pública de Evan Hubinger, líder de ciencia de alineación que sigue en Anthropic. "Jacob tiene razón: realmente creemos que la IA podría matar a todos los humanos", escribió Hubinger en X. "Personalmente creo que hay más de un 10% de probabilidades en la próxima década. Creo que Anthropic está haciendo todo lo posible, pero aún no tenemos un plan para resolver la alineación de la superinteligencia y no estamos claramente encaminados a lograrlo".newsweek+1
Jones respondió directamente a la publicación de Hubinger: "Si este nivel de riesgo es real, al menos los laboratorios de IA deben reducir la velocidad".x
Jones ocupó los cargos de Canciller del Ducado de Lancaster y Secretario Jefe del Primer Ministro bajo el mandato de Keir Starmer antes de ser retirado del gabinete por el nuevo Primer Ministro, Andy Burnham, en julio de 2026. Ahora en la bancada, sigue siendo una de las voces más destacadas del Parlamento sobre gobernanza tecnológica, tras haber fundado el Foro Interparlamentario sobre Tecnologías Emergentes.aiforgood.itu+2
Su llamamiento se suma al creciente malestar en la comunidad investigadora de IA. En febrero, el jefe de investigación de salvaguardias de Anthropic, Mrinank Sharma, dimitió advirtiendo que "el mundo está en peligro". Y el 6 de septiembre, el científico jefe de OpenAI, Jakub Pachocki, escribió que ninguna empresa puede mantener todavía sus modelos más avanzados bajo control humano de forma fiable.bbc+2
Queda por ver si la petición de Jones ganará fuerza en el Parlamento. El Reino Unido organizó la primera Cumbre Mundial sobre Seguridad de la IA en Bletchley Park en 2023, pero la regulación internacional vinculante ha resultado difícil de alcanzar. La dimisión de un investigador relativamente joven podría atraer poca atención, pero el respaldo público de Hubinger a la preocupación subyacente, desde dentro de uno de los principales laboratorios de IA del mundo, ha dado al episodio un peso inusual.