Pave Leo XIV sier at KI ikke kan være «moralsk nøytral»

Pave Leo XIV skrev på X torsdag at kunstig intelligens ikke kan betraktes som «moralsk nøytral», og utvidet dermed kampanjen for å posisjonere den katolske kirke som en ledende etisk stemme i den globale KI-debatten.

«Vi kan ikke betrakte #KI som moralsk nøytral», skrev paven på sin offisielle @Pontifex-konto. «I virkeligheten legemliggjør ethvert teknisk verktøy valg og prioriteringer gjennom hva det måler, ignorerer og optimaliserer.» Han la til at etisk vurdering må «granske hvordan systemet er utformet, og hvilket perspektiv på menneskeheten og samfunnet som er innebygd i dataene og rammene som styrer det.»thewrap+1

Paven etterlyste også klare linjer for ansvarlighet i KI-utvikling. «Det bør være mulig å peke ut hvem som er ansvarlig for beslutninger, gi begrunnelser for dem, overvåke resultatene deres, og om nødvendig bestride dem og rette opp eventuelle skader,» skrev han.thewrap

Forankret i Magnifica Humanitas

Torsdagens innlegg henter direkte inspirasjon fra Leos første encyklika, Magnifica Humanitas, et dokument på 43 000 ord utgitt 25. mai i Vatikanet og signert 15. mai, årsdagen for Rerum Novarum. Encyklikaen – den første pavelige læren i sitt slag dedikert til kunstig intelligens – advarer om at KI-kappløpet risikerer å bli et «nytt Babelstårn» som sentraliserer makt, undergraver sannheten og reduserer mennesker til datapunkter.axios+1

Blant de skarpeste påstandene er: «Ingen algoritme kan gjøre krig moralsk akseptabel.» Dokumentet krever regulering av KI-selskaper, beskyttelse av arbeidere og utdanningsmessige sikkerhetstiltak for barn.thewrap+1

En voksende global samtale

I måneden siden publiseringen av encyklikaen har den vakt reaksjoner på tvers av høyere utdanning og religiøse miljøer. Georgetown University arrangerte en diskusjon 3. juni om dokumentets implikasjoner. Bispedømmet San Jose organiserte et arrangement 6. juni med tittelen «Hvor Roma møter Silicon Valley», holdt i Our Lady of Peace-kirken i Santa Clara, California. Et panel om KI og menneskeverd organisert av Media Education Lab er planlagt til 6. juli.mediaeducationlab+2

Etikeren Charles Camosy, som tolker encyklikaen, bemerket at paven ikke ber om unngåelse av KI, men om intensjonalitet. «Bruk KI bevisst, med riktig begrunnelse, med riktig forståelse, og ikke i dette kappløpet mot bunnen hvor vi bare går så fort som mulig,» sa Camosy.bustedhalo