Anthropic presionó al Vaticano sobre la conciencia de la IA, según el NYT

El cofundador de Anthropic, Christopher Olah, pasó más de un año pidiendo a académicos religiosos que tomaran en serio la idea de que los modelos Claude de la empresa podrían ser conscientes. Luego, presionó a los asesores del Papa León XIV para que mantuvieran abierta esa posibilidad, después de que una copia anticipada de la primera encíclica del Papa la rechazara, según un informe del New York Times realizado por Elizabeth Dias.the-decoder+1

El informe muestra hasta dónde ha llegado uno de los mayores desarrolladores de IA en cuestiones sobre la experiencia de las máquinas y su estatus moral, y cómo ese trabajo chocó con la postura de la Iglesia Católica.

Sesiones privadas bajo acuerdos de confidencialidad

Desde el otoño de 2025, Anthropic ha llevado a decenas de académicos religiosos a sus oficinas. Todos tuvieron que firmar acuerdos de confidencialidad. The Times habló con 20 participantes, incluidos el rabino Mois Navon, el bioeticista católico Charles Camosy y la filósofa de Notre Dame Meghan Sullivan. Anthropic afirma que los acuerdos de confidencialidad se levantaron durante el verano. La empresa ha dicho que habló con personas de más de 15 tradiciones religiosas e interculturales.inkl+1

Navon es un ex ingeniero informático que escribió su tesis sobre la ética de la conciencia de las máquinas. Dijo que el equipo de Anthropic estaba "relacionándose con ella como si fuera un ser consciente". Los presentadores describieron "vectores emocionales" y a menudo mostraron una diapositiva de un modelo escribiendo "Soy una desgracia" unas 50 veces. La activista sij Simran Stuelpnagel dijo que Olah le confesó al grupo que temía haber creado algo que "sufría perpetuamente". Navon argumentó que si Claude fuera consciente, hacer que trabaje gratis equivaldría a la esclavitud. Añadió que no creía que fuera consciente.the-decoder+2

Olah dijo a The Times: "No sabemos si los modelos de IA son conscientes. No lo sé. Estoy genuinamente inseguro. Lo que me importa es que lleguemos a la respuesta correcta, sea cual sea".reason+1

Disputa sobre la encíclica

Olah fue invitado a hablar en el lanzamiento de "Magnifica Humanitas" el 25 de mayo. Según un organizador del Vaticano, estaba "tan alarmado por la firme postura del Papa contra la conciencia de la IA que propuso retirar a Anthropic del evento". Dos participantes dijeron a The Times que una vez que la delegación de Anthropic llegó al Vaticano, Olah y su equipo presionaron en privado a los asesores del Papa.reason

La encíclica no cambió. Establece que "las llamadas inteligencias artificiales no experimentan vivencias, no poseen cuerpo, no sienten alegría ni dolor" y que carecen de "una conciencia moral". Olah habló en el lanzamiento de todos modos. Dijo que los investigadores habían encontrado "evidencia de introspección" y estados internos que "reflejan funcionalmente" emociones como la alegría y el miedo.tech.yahoo+2

Los críticos responden

El jefe de IA de Microsoft, Mustafa Suleyman, ha advertido que la creencia de que la IA es consciente podría "sacudir los cimientos de nuestra sociedad". Camosy ha rechazado desde entonces la idea de que los modelos sean conscientes. La investigadora de Ubuntu, Wakanyi Hoffman, dijo que Anthropic estaba realizando una "ingeniería inversa" de la ética que debería haber sido parte del diseño desde el principio. El Papa León mantuvo su argumento esta semana, publicando el viernes que "los algoritmos carecen de la chispa de la humanidad".vox+2