El rey Carlos III reúne en Escocia a líderes tecnológicos para debatir la seguridad de la IA

El rey Carlos III se reúne este jueves con ejecutivos de las principales empresas de inteligencia artificial en Dumfries House, en Ayrshire (Escocia), mientras el sector enfrenta un creciente temor a que el desarrollo descontrolado de la IA pueda poner en peligro a la humanidad.

Líderes de Nvidia ↗ 0.82%, Google Alphabet Inc. ↘ 0.61% DeepMind, OpenAI, Anthropic y otras firmas se reúnen en la sede de la King's Foundation para lo que el palacio de Buckingham calificó como un debate sobre «si se puede desarrollar un conjunto compartido de principios» para guiar el futuro de la IA. No se espera que la reunión, facilitada por la Ditchley Foundation, una organización británica sin ánimo de lucro, dé lugar a acuerdos vinculantes.nytimes+2

Un llamamiento real a la moderación

«Las decisiones adoptadas en este momento decisivo configurarán el mundo que heredarán las generaciones futuras», señalará el rey en el discurso de apertura adelantado por el palacio. «La tarea que tienen por delante no consiste únicamente en hacer avanzar la tecnología, sino en garantizar que permanezca firmemente al servicio de la humanidad, la comunidad y el mundo natural».nytimes

Entre los aproximadamente 30 asistentes figuran el consejero delegado de Nvidia, Jensen Huang; el presidente de Google DeepMind, Demis Hassabis; la directora financiera de OpenAI, Sarah Friar, y Kanishka Narayan, ministro de IA del Reino Unido. Anthropic declinó revelar quién será su representante, y también se espera la asistencia de Paolo Benanti, asesor de IA del Vaticano.politico+2

Divisiones patentes en el sector

La cumbre es el primer encuentro internacional entre empresas líderes de IA desde que el consejero delegado de Anthropic, Dario Amodei, publicara un extenso ensayo pidiendo una desaceleración coordinada en el desarrollo de la IA, advirtiendo de que nuevos avances sin salvaguardias podrían desembocar en una catástrofe. El consejero delegado de OpenAI, Sam Altman, Elon Musk y Hassabis expresaron su acuerdo con la postura de Amodei.abcnews

Sin embargo, el sector sigue dividido. El consejero delegado de Meta ↗ 0.46%, Mark Zuckerberg, se ha opuesto al argumentar que cada empresa debe garantizar la seguridad de forma independiente y que la «responsabilidad legal significativa» ya ofrece un incentivo suficiente. Huang también criticó los intentos de frenar el avance al afirmar que «las fuerzas del mercado ya están presentes: no necesitamos nuevas leyes». El presidente de Microsoft ↘ 1.37%, Satya Nadella, expresó su apoyo a avanzar con prudencia, pero advirtió de que la gobernanza de la seguridad «no puede quedar en manos de un puñado de entidades».abcnews

Tensiones geopolíticas latentes

La reunión se produce en medio de un conflicto geopolítico más amplio sobre la regulación de la IA. El presidente Trump desestimó el lunes las advertencias sobre la amenaza de la IA calificándolas de «conspiración enfermiza» y escribió en Truth Social que «quien gane en la IA, gana». Los legisladores demócratas han instado al Congreso a aprobar leyes de protección sobre IA, mientras que el presidente de la Cámara de Representantes, Mike Johnson, advirtió de que precipitar las regulaciones supondría que EE. UU. «perderá la carrera frente a China».cbsnews

La dinámica entre EE. UU. y China añade otra capa de complejidad. Aunque el presidente chino, Xi Jinping, ha advertido sobre los peligros de la «pérdida de control» de la IA, Pekín ha rechazado los llamados a frenar el desarrollo al considerar la idea como un intento de Washington por «afirmar su dominio tecnológico», según Leia Wang, investigadora del Fondo Carnegie para la Paz Internacional. Está previsto que Trump vuelva a reunirse con Xi en Washington el 24 de septiembre, donde se espera que se debata la seguridad de la IA.cbsnews

«Quienes en nuestro mundo valoran nuestra humanidad y su componente moral vital buscan con afán que ustedes les garanticen que no perderemos el control de nuestro destino», dirá el rey este jueves a los ejecutivos congregados.nytimes