Papst Leo XIV. sagt, KI könne nicht ‘moralisch neutral’ sein

Papst Leo XIV. postete am Donnerstag auf X, dass künstliche Intelligenz nicht als "moralisch neutral" betrachtet werden könne, und setzte damit seine Kampagne fort, die katholische Kirche als führende ethische Stimme in der globalen KI-Debatte zu positionieren.

"Wir können #KI nicht als moralisch neutral betrachten", schrieb der Papst auf seinem offiziellen @Pontifex-Account. "In Wirklichkeit verkörpert jedes technische Werkzeug Entscheidungen und Prioritäten durch das, was es misst, ignoriert und optimiert." Er fügte hinzu, dass eine ethische Bewertung "untersuchen muss, wie dieses System geschaffen wurde und welche Perspektive in Bezug auf Menschlichkeit und Gesellschaft in den Daten und Rahmenbedingungen eingebettet ist, die es steuern."thewrap+1

Der Papst forderte zudem klare Verantwortlichkeiten bei der KI-Entwicklung. "Es sollte möglich sein, genau zu bestimmen, wer für Entscheidungen verantwortlich ist, diese zu begründen, ihre Ergebnisse zu überwachen und sie bei Bedarf anzufechten und entstandene Schäden zu beheben", schrieb er.thewrap

Verwurzelt in Magnifica Humanitas

Der Beitrag vom Donnerstag stützt sich direkt auf Leos erste Enzyklika, Magnifica Humanitas, ein 43.000 Wörter umfassendes Dokument, das am 25. Mai im Vatikan veröffentlicht und am 15. Mai, dem Jahrestag von Rerum Novarum, unterzeichnet wurde. Die Enzyklika – das erste päpstliche Lehrschreiben dieser Art, das sich der künstlichen Intelligenz widmet – warnt davor, dass der KI-Wettlauf Gefahr läuft, zu einem "neuen Turmbau zu Babel" zu werden, der Macht zentralisiert, die Wahrheit untergräbt und Menschen auf Datenpunkte reduziert.axios+1

Zu den schärfsten Aussagen gehört: "Kein Algorithmus kann Krieg moralisch akzeptabel machen." Das Dokument fordert eine Regulierung von KI-Unternehmen, Arbeitnehmerschutz und pädagogische Schutzmaßnahmen für Kinder.thewrap+1

Ein wachsender globaler Dialog

Im Monat seit der Veröffentlichung der Enzyklika hat sie Reaktionen aus dem gesamten Hochschulwesen und religiösen Gemeinschaften hervorgerufen. Die Georgetown University veranstaltete am 3. Juni eine Diskussion über die Auswirkungen des Dokuments. Die Diözese San Jose organisierte am 6. Juni eine Veranstaltung mit dem Titel "Where Rome Meets Silicon Valley", die in der Our Lady of Peace Church in Santa Clara, Kalifornien, stattfand. Ein vom Media Education Lab organisiertes Panel zu KI und menschlicher Würde ist für den 6. Juli geplant.mediaeducationlab+2

Der Ethiker Charles Camosy, der die Enzyklika interpretierte, merkte an, dass der Papst nicht dazu aufrufe, KI zu vermeiden, sondern sie bewusst einzusetzen. "Nutzen Sie KI bewusst, mit dem richtigen Grund, mit dem richtigen Verständnis und nicht in diesem Wettlauf nach unten, bei dem wir einfach so schnell wie möglich vorankommen", sagte Camosy.bustedhalo