Paavi Leo XIV vaatii tekoälyn ”riisumista aseista” ensimmäisessä kiertokirjeessään

Paavi Leo XIV julkaisi maanantaina ensimmäisen kiertokirjeensä, lähes 43 000 sanaa pitkän asiakirjan, joka vaatii tekoälyn "riisumista aseista" ja varoittaa, että teknologia uhkaa muuttua moderniksi Baabelin torniksi, jos se jätetään valvomatta voimakkaiden yritysten ja hallitusten käsiin.Where Peter Is+1

Yhdysvalloissa syntynyt paavi esitteli "Magnifica Humanitas" ("Suurenmoinen ihmisyys") -nimisen kiertokirjeen Vatikaanin synodisalissa. Tämä oli poikkeus perinteistä, sillä paavit eivät yleensä puhu omien kiertokirjeidensä julkistustilaisuuksissa. Hänen kanssaan paneelissa oli Christopher Olah, tekoälyturvallisuusyhtiö Anthropicin perustaja, joka on parhaillaan oikeustaistelussa Trumpin hallinnon kanssa teknologiansa sotilaallisesta käytöstä.americamagazine+1

"Aikakauden muutos"

Asiakirjassa, jonka hän allekirjoitti 15. toukokuuta paavi Leo XIII:n työelämää käsittelevän "Rerum Novarum" -kiertokirjeen 135-vuotispäivän kunniaksi, Leo XIV määrittelee tekoälyn "aikakauden muutokseksi" ihmiselle ja varoittaa "kilpajuoksusta kohti yhä tehokkaampia algoritmeja ja suurempia tietoaineistoja, jota ajaa halu varmistaa geopoliittinen tai kaupallinen dominanssi".RTÉ+1

"Ensimmäinen valinta ei ole teknologian 'kyllä' tai 'ei', vaan Baabelin rakentamisen tai Jerusalemin uudelleenrakentamisen välillä", paavi kirjoitti. "Paimenen ja isän sydämellä pyydän kaikkia hylkäämään uuden Baabelin tornin rakentamisen ja yhdistämään voimansa yhteisen hyvän rakentamiseksi".Where Peter Is+1

Kiertokirje väittää, että tekoäly "ei ole moraalisesti neutraali" ja vaatii riippumattomia tarkastuksia, algoritmien läpinäkyvyyttä ja oikeudenmukaista pääsyä tietoihin. Leo varoittaa, että tekoälykehityksen päämoottoreina ovat nyt "yksityiset toimijat, usein ylikansalliset", joilla on käytössään resursseja, jotka ovat "suurempia kuin monien hallitusten".Where Peter Is

Uudet orjuuden muodot ja "oikeutetun sodan" hylkääminen

Jotkut paavin jyrkimmistä ilmauksista kohdistuvat siihen, mitä hän kutsuu tekoälyn taustalla oleviksi "uusiksi orjuuden muodoiksi" – huonosti palkatuista sisällön moderaattoreista lapsiin, jotka louhivat harvinaisia maametalleja. "Näiden ihmisten kehot ovat arpeutuneet, vahingoittuneet ja kuluneet, jotta laskennallinen virta voi jatkua keskeytyksettä", hän kirjoitti.RTÉ

Leo esitti myös yhden selvimmistä paavillisista irtisanoutumisista oikeutetun sodan teoriasta kirjoittaessaan, että se "on nyt vanhentunut" – terävä lausunto, kun otetaan huomioon, että Trumpin hallinnon virkamiehet, mukaan lukien varapresidentti JD Vance, ovat vedonneet oppiin puolustaakseen konfliktia Iranin kanssa. Autonomisista aseista paavi totesi: "Ei ole olemassa algoritmia, joka voisi tehdä sodasta moraalisesti hyväksyttävän".Where Peter Is+1

Kirkko sitoutuu suoraan teknologiaan

Kiertokirje on katolisen kirkon tähän mennessä arvovaltaisin lausunto tekoälystä. Asiakirjan ohella Leo perusti uuden tekoälyä käsittelevän komission koordinoimaan Vatikaanin vastausta teknologiaan.thegoodnewsroom+2

Anthropicin Olahin läsnäolo julkistustilaisuudessa korosti kiertokirjeen poliittisia ulottuvuuksia. Anthropic haastaa parhaillaan Trumpin hallintoa oikeuteen sen jälkeen, kun yhtiö määrättiin pois hallituksen järjestelmistä, koska se kieltäytyi antamasta Pentagonille rajoittamatonta käyttöoikeutta tekoälymalleihinsa.rte+1

"Voi syntyä hienovarainen kiusaus, nimittäin ajatus siitä, että ongelmat ovat liian suuria ja me olemme liian pieniä", Leo kirjoitti. "Silti kukaan ei ole ilman vastuuta".RTÉ