Påve Leo XIV säger att AI inte kan vara ”moraliskt neutral”

Påve Leo XIV skrev på X i torsdags att artificiell intelligens inte kan betraktas som ”moraliskt neutral”, vilket utökar hans kampanj för att positionera den katolska kyrkan som en ledande etisk röst i den globala AI-debatten.

”Vi kan inte betrakta #AI som moraliskt neutral”, skrev påven på sitt officiella @Pontifex-konto. ”I verkligheten förkroppsligar varje tekniskt verktyg val och prioriteringar genom vad det mäter, ignorerar och optimerar.” Han tillade att etisk utvärdering måste ”granska hur systemet är utformat och vilket perspektiv på mänskligheten och samhället som är inbäddat i de data och ramverk som styr det.”thewrap+1

Påven efterlyste också tydliga ansvarslinjer inom AI-utveckling. ”Det bör vara möjligt att peka ut vem som är ansvarig för beslut, ge motiveringar för dem, övervaka deras resultat och, vid behov, bestrida dem och rätta till eventuella skador”, skrev han.thewrap

Förankrat i Magnifica Humanitas

Torsdagens inlägg hämtar direkt inspiration från Leos första encyklika, Magnifica Humanitas, ett dokument på 43 000 ord som släpptes den 25 maj i Vatikanen och undertecknades den 15 maj, årsdagen av Rerum Novarum. Encyklikan – den första påvliga läran i sitt slag som ägnas åt artificiell intelligens – varnar för att AI-kapplöpningen riskerar att bli ett ”nytt Babels torn” som centraliserar makt, undergräver sanningen och reducerar människor till datapunkter.axios+1

Bland de skarpaste påståendena finns: ”Ingen algoritm kan göra krig moraliskt acceptabelt.” Dokumentet kräver reglering av AI-företag, arbetarskydd och utbildningsmässiga skyddsåtgärder för barn.thewrap+1

Ett växande globalt samtal

Under månaden sedan encyklikan publicerades har den väckt reaktioner inom högre utbildning och religiösa samfund. Georgetown University höll en diskussion den 3 juni om dokumentets implikationer. Stiftet San Jose organiserade ett evenemang den 6 juni med titeln ”Där Rom möter Silicon Valley”, som hölls i Our Lady of Peace-kyrkan i Santa Clara, Kalifornien. En panel om AI och mänsklig värdighet som anordnas av Media Education Lab är planerad till den 6 juli.mediaeducationlab+2

Etikern Charles Camosy, som tolkar encyklikan, noterade att påven inte uppmanar till att undvika AI, utan till intentionalitet. ”Använd AI avsiktligt, med rätt skäl, med rätt förståelse, och inte i detta race mot botten där vi bara går så fort som möjligt”, sa Camosy.bustedhalo