El Papa León XIV afirma que la IA no puede ser ‘moralmente neutral’

El Papa León XIV publicó el jueves en X que la inteligencia artificial no puede considerarse "moralmente neutral", extendiendo su campaña para posicionar a la Iglesia Católica como una voz ética líder en el debate global sobre la IA.

"No podemos considerar que la #IA sea moralmente neutral", escribió el Papa en su cuenta oficial @Pontifex. "En realidad, cada herramienta técnica encarna elecciones y prioridades a través de lo que mide, ignora y optimiza". Añadió que la evaluación ética debe "examinar cómo se elabora ese sistema y qué perspectiva sobre la humanidad y la sociedad está integrada en los datos y marcos que lo dirigen".thewrap+1

El Papa también pidió líneas claras de responsabilidad en el desarrollo de la IA. "Debería ser posible identificar quién es responsable de las decisiones, proporcionar justificaciones para ellas, monitorear sus resultados y, cuando sea necesario, impugnarlas y rectificar cualquier daño resultante", escribió.thewrap

Arraigado en Magnifica Humanitas

La publicación del jueves se basa directamente en la primera encíclica de León, Magnifica Humanitas, un documento de 43.000 palabras publicado el 25 de mayo en el Vaticano y firmado el 15 de mayo, aniversario de la Rerum Novarum. La encíclica —la primera enseñanza papal de su tipo dedicada a la inteligencia artificial— advierte que la carrera de la IA corre el riesgo de convertirse en una "nueva Torre de Babel" que centraliza el poder, socava la verdad y reduce a las personas a puntos de datos.axios+1

Entre sus afirmaciones más agudas: "Ningún algoritmo puede hacer que la guerra sea moralmente aceptable". El documento pide la regulación de las empresas de IA, protecciones para los trabajadores y salvaguardas educativas para los niños.thewrap+1

Una conversación global creciente

En el mes transcurrido desde la publicación de la encíclica, ha generado respuestas en toda la educación superior y las comunidades religiosas. La Universidad de Georgetown organizó el 3 de junio un debate sobre las implicaciones del documento. La Diócesis de San José organizó un evento el 6 de junio titulado "Donde Roma se encuentra con Silicon Valley", celebrado en la Iglesia de Nuestra Señora de la Paz en Santa Clara, California. Un panel sobre IA y dignidad humana organizado por el Media Education Lab está programado para el 6 de julio.mediaeducationlab+2

El ético Charles Camosy, al interpretar la encíclica, señaló que el Papa no está pidiendo evitar la IA, sino intencionalidad. "Usen la IA intencionalmente, con la razón correcta, con el entendimiento correcto, y no en esta carrera hacia el abismo donde simplemente vamos lo más rápido posible", dijo Camosy.bustedhalo