El Rey Carlos III convoca a líderes de IA en Escocia ante llamados a frenar su desarrollo

El Rey Carlos III reunirá esta semana a unos 30 de los ejecutivos más destacados del sector de la inteligencia artificial en Dumfries House, en Ayrshire, Escocia, para cuestionar cómo puede desarrollarse esta tecnología "por el bien de la humanidad". El encuentro se produce en un momento en que las advertencias desde el propio sector han alcanzado un punto crítico, con el CEO de Anthropic, Dario Amodei, pidiendo el sábado una desaceleración deliberada en el desarrollo de modelos de vanguardia.

Una convocatoria real

El evento, reportado inicialmente por Politico, reunirá a líderes de Nvidia ↘ 1.47%, Anthropic, Google Alphabet Inc. ↘ 3.58% DeepMind y OpenAI en la sede de The King's Foundation, una organización benéfica fundada por Carlos en 1990. Se espera la asistencia del director ejecutivo de Nvidia, Jensen Huang, el fundador de Google DeepMind, Demis Hassabis, el presidente y CEO de IonQ ↗ 4.42%, Niccolo de Masi, y Paolo Benanti, asesor del Papa en ética de la IA.politico+2

La Ditchley Foundation supervisa la cumbre y ha redactado una carta para los líderes de la IA. Se entiende que la carta incluye un "conjunto compartido de principios" que ayudaría a "guiar la futura aplicación de la IA, no solo como un motor de capacidad y eficiencia, sino como una herramienta que defienda la dignidad humana y contribuya al florecimiento de las personas y del planeta", según The Sunday Times, reportado por The Daily Mail y The Independent.dailymail+1

Una fuente real declaró a The Sunday Times: "El Rey está allí para convocar, escuchar y fomentar esas discusiones, y para plantear la pregunta: '¿Cómo desarrollamos la IA por el bien de la humanidad?'"independent+1

Alarma en la industria

El momento es notable. El sábado, Amodei publicó un ensayo titulado "Debemos marcar el ritmo de la frontera", argumentando que la IA ha estado "avanzando drásticamente más rápido" desde este verano y que las medidas de seguridad no han seguido el ritmo. Propuso un plan de tres pasos: integrar evaluadores externos con acceso a nivel de empleado dentro de las empresas de IA, coordinar estándares de seguridad comunes y buscar una mayor coordinación global.economictimes+1

Hassabis respaldó el llamado en X, escribiendo que "el ensayo de Dario apunta hacia el camino correcto a seguir". El ex primer ministro británico Rishi Sunak, ahora asesor de Anthropic, dijo que "cuando los propios laboratorios piden límites de velocidad, los gobiernos deberían escuchar". El senador Bernie Sanders fue más allá, pidiendo "una PAUSA en el desarrollo de la IA avanzada y la prohibición de la superinteligencia artificial".economictimes

Un patrón de compromiso

La cumbre de Escocia no es la primera incursión de Carlos en la diplomacia de la IA. Durante una visita a Washington en abril, el Rey se reunió con ejecutivos tecnológicos, incluido el fundador de Amazon Amazon.com, Inc. ↘ 2.24%, Jeff Bezos, y líderes de Apple ↘ 0.80% y Nvidia. Pero la reunión en Dumfries House conlleva una urgencia adicional, al producirse días después de que el investigador Jacob Coxon renunciara públicamente a la industria por temor a que las empresas estuvieran "compitiendo para construir sistemas que no podrán controlar".politico+1

Si un conjunto de principios auspiciados por la realeza puede moderar una carrera tecnológica global sigue siendo una incógnita. Como señaló la fuente real: "Él sabe que afectará a todos en la sociedad. Quiere hacer la pregunta: '¿Sería útil tener un conjunto de principios?' Su sentimiento es que no es algo fácil de hacer, pero eso no significa que no debamos intentarlo".dailymail