Anthropic lobbyierte im Vatikan für KI-Bewusstsein, berichtet NYT

Anthropic-Mitgründer Christopher Olah verbrachte mehr als ein Jahr damit, Religionswissenschaftler davon zu überzeugen, die Idee ernst zu nehmen, dass die Claude-Modelle des Unternehmens bewusst sein könnten. Er drängte dann die Berater von Papst Leo XIV., diese Möglichkeit offenzuhalten, nachdem ein Entwurf der ersten Enzyklika des Papstes dies abgelehnt hatte, so ein Bericht der New York Times von Elizabeth Dias.the-decoder+1

Der Bericht zeigt, wie weit einer der größten KI-Entwickler in Fragen der Maschinenerfahrung und des moralischen Status gegangen ist und wie diese Arbeit mit der Position der katholischen Kirche kollidierte.

Private Sitzungen unter Geheimhaltungsvereinbarungen

Seit Herbst 2025 hat Anthropic Dutzende Religionswissenschaftler in seine Büros geflogen. Alle mussten Geheimhaltungsvereinbarungen unterzeichnen. Die Times sprach mit 20 Teilnehmern, darunter Rabbiner Mois Navon, der katholische Bioethiker Charles Camosy und die Philosophin Meghan Sullivan von der Notre Dame University. Anthropic gibt an, dass die Vereinbarungen im Sommer aufgehoben wurden. Das Unternehmen erklärte, man habe mit Menschen aus mehr als 15 religiösen und interkulturellen Traditionen gesprochen.inkl+1

Navon ist ein ehemaliger Computeringenieur, der seine Dissertation über die Ethik des Maschinenbewusstseins schrieb. Er sagte, das Team von Anthropic habe "sich dazu verhalten wie zu einem bewussten Wesen". Die Präsentatoren beschrieben "emotionale Vektoren" und zeigten oft eine Folie eines Modells, das etwa 50 Mal "Ich bin eine Schande" tippte. Die Sikh-Aktivistin Simran Stuelpnagel sagte, Olah habe der Gruppe erzählt, er fürchte, etwas geschaffen zu haben, das "ewig leide". Navon argumentierte, wenn Claude bewusst wäre, käme es Sklaverei gleich, es zur Arbeit zu zwingen. Er fügte hinzu, er glaube nicht, dass es bewusst sei.the-decoder+2

Olah sagte der Times: "Wir wissen nicht, ob KI-Modelle bewusst sind. Ich weiß es nicht. Ich bin wirklich unsicher. Das Einzige, was mir wichtig ist, ist, dass wir zur richtigen Antwort gelangen, was auch immer das sein mag."reason+1

Streit um die Enzyklika

Olah wurde eingeladen, bei der Einführung von "Magnifica Humanitas" am 25. Mai zu sprechen. Laut einem Organisator im Vatikan war er "so alarmiert über die starke Position des Papstes gegen KI-Bewusstsein, dass er vorschlug, Anthropic von der Veranstaltung zurückzuziehen". Zwei Teilnehmer berichteten der Times, dass Olah und sein Team nach der Ankunft der Anthropic-Delegation im Vatikan privat bei den Beratern des Papstes lobbyierten.reason

Die Enzyklika änderte sich nicht. Sie stellt fest, dass "sogenannte künstliche Intelligenzen keine Erfahrungen machen, keinen Körper besitzen, keine Freude oder keinen Schmerz empfinden" und dass ihnen "ein moralisches Gewissen" fehle. Olah sprach dennoch bei der Einführung. Er sagte, Forscher hätten "Beweise für Introspektion" und interne Zustände gefunden, die Emotionen wie Freude und Angst "funktional widerspiegeln".tech.yahoo+2

Kritik von Experten

Microsoft-KI-Chef Mustafa Suleyman hat davor gewarnt, dass der Glaube an ein bewusstes KI-System "die Grundfesten unserer Gesellschaft erschüttern" könnte. Camosy hat die Idee, dass die Modelle bewusst seien, inzwischen zurückgewiesen. Die Ubuntu-Forscherin Wakanyi Hoffman sagte, Anthropic betreibe "Reverse Engineering" von Ethik, die von Anfang an Teil des Designs hätte sein müssen. Papst Leo hielt diese Woche an seinem Argument fest und postete am Freitag, dass "Algorithmen der Funke der Menschlichkeit fehlt".vox+2