Papež Lev XIV říká, že AI nemůže být „morálně neutrální“

Papež Lev XIV ve čtvrtek na síti X napsal, že umělou inteligenci nelze považovat za „morálně neutrální“, čímž rozšířil svou kampaň za to, aby se katolická církev stala předním etickým hlasem v globální debatě o AI.

„Nemůžeme považovat #AI za morálně neutrální,“ napsal papež na svém oficiálním účtu @Pontifex. „Ve skutečnosti každý technický nástroj ztělesňuje volby a priority prostřednictvím toho, co měří, ignoruje a optimalizuje.“ Dodal, že etické hodnocení musí „zkoumat, jak je tento systém vytvořen a jaká perspektiva ohledně lidstva a společnosti je zakotvena v datech a rámcích, které jej řídí.“thewrap+1

Papež také vyzval k jasným liniím odpovědnosti při vývoji AI. „Mělo by být možné určit, kdo je zodpovědný za rozhodnutí, poskytnout pro ně zdůvodnění, sledovat jejich výsledky a v případě potřeby je napadnout a napravit jakékoli následné škody,“ napsal.thewrap

Zakotveno v Magnifica Humanitas

Čtvrteční příspěvek přímo vychází z první encykliky Lva XIV., Magnifica Humanitas, dokumentu o 43 000 slovech zveřejněného 25. května ve Vatikánu a podepsaného 15. května, v den výročí Rerum Novarum. Encyklika – první papežské učení svého druhu věnované umělé inteligenci – varuje, že závody v oblasti AI riskují, že se stanou „novou babylonskou věží“, která centralizuje moc, podkopává pravdu a redukuje lidi na datové body.axios+1

Mezi jejími nejostřejšími tvrzeními je: „Žádný algoritmus nemůže učinit válku morálně přijatelnou.“ Dokument vyzývá k regulaci firem zabývajících se AI, ochraně pracovníků a vzdělávacím zárukám pro děti.thewrap+1

Rostoucí globální konverzace

Během měsíce od zveřejnění encykliky vyvolala reakce napříč vysokoškolskými a náboženskými komunitami. Georgetownská univerzita uspořádala 3. června diskusi o důsledcích dokumentu. Diecéze San Jose zorganizovala 6. června akci s názvem „Kde se Řím setkává se Silicon Valley“, která se konala v kostele Our Lady of Peace v Santa Claře v Kalifornii. Panel o AI a lidské důstojnosti organizovaný Media Education Lab je naplánován na 6. července.mediaeducationlab+2

Etik Charles Camosy při interpretaci encykliky poznamenal, že papež nevolá po vyhýbání se AI, ale po záměrnosti. „Používejte AI záměrně, se správným důvodem, se správným pochopením, a ne v tomto závodě ke dnu, kde jen spěcháme tak rychle, jak je to možné,“ řekl Camosy.bustedhalo