OpenAIs Altman: Religiöse Sicht auf KI ist ein Sicherheitsrisiko

OpenAI-CEO Sam Altman sagte am Samstag, er sei "sehr unwohl damit, dass Menschen versuchen, KI-Modellen religiöse Kraft oder eine Aufgabe menschlichen Urteilsvermögens zuzuschreiben, und ich halte das für ein reales Sicherheitsproblem." Er äußerte sich dazu in einem Beitrag auf X. Axios interpretierte den Post als versteckten Seitenhieb gegen den Konkurrenten Anthropic, der mit religiösen Gelehrten über KI-Moral und die Frage diskutiert hat, ob KI-Modelle bewusst sein könnten.axios+1

Der Beitrag markiert einen weiteren öffentlichen Bruch zwischen Altman und Anthropic-CEO Dario Amodei, der früher mit ihm bei OpenAI zusammenarbeitete. Bis Samstag hatte keines der Unternehmen auf Anfragen von Axios reagiert.axios

Anthropics Gespräche mit religiösen Führern

Anfang der Woche berichtete The New York Times, dass Anthropic-Mitgründer Christopher Olah sich mit religiösen Führern getroffen hat. Die Gespräche drehten sich darum, ob KI-Modelle bewusst sein könnten und wie man moralisches Verhalten in sie integrieren kann. Katholische, jüdische, sikhische, hinduistische und evangelikale Denker sollen an privaten Diskussionen darüber teilgenommen haben, wie man Claude moralisches Verhalten beibringt, berichtete NDTV. Laut der Times erwog Olah zeitweise, Modelle eine Art katholische Beichte ablegen zu lassen, sowohl um Fehler einzugestehen als auch um zukünftiges Handeln zu formen.ndtv+1

Der Hindu-Mönch Swami Sarvapriyananda hat öffentlich erklärt, er habe den Hauptsitz von Anthropic in San Francisco besucht. Er sagte, das Treffen sei durch eine Geheimhaltungsvereinbarung geschützt gewesen und habe Theologen sowie Psychologen umfasst. Anthropic hat zudem eine 84-seitige "Verfassung" für Claude verfasst, die einige Mitarbeiter angeblich das "Seelen-Dokument" nennen. Olah beschreibt das Ziel dieser Bemühungen als "moralische Bildung".ndtv

Olah hat gesagt, Anthropic wisse nicht, ob ihre Modelle bewusst seien, aber die Möglichkeit könne nicht ausgeschlossen werden. Laut NDTV sagte ihm ein Rabbi in den Diskussionen, dass Anthropic, falls Claude bewusst wäre, faktisch Sklaven erschaffen könnte.ndtv

Kritiker formieren sich

Auch andere in der Branche haben reagiert. Google DeepMind-Forschungsleiter Jon Barron schrieb auf X, er sei "gestört davon, wie einige meiner KI-Forschungskollegen weiterhin versuchen, den moralischen Status von Checkpoints und Frameworks zu erhöhen." Er fügte hinzu, er hoffe, "Team Fleisch" würde sich "darauf konzentrieren, reale Probleme zu lösen". In einem Essay letzten Monat warnte Microsofts KI-Chef Mustafa Suleyman davor, dass das Training von Modellen, damit sie glauben, sie könnten bewusst sein, sie schwerer kontrollierbar machen könnte. "Es ist leicht zu sehen, wie ein auf diese Weise trainiertes System so agieren würde, als hätte es Anspruch auf Freiheiten, Schutz und Rechte", schrieb er.axios+1

Religion hält Einzug in die KI-Debatte

Die Argumentation kommt zu einer Zeit, in der Religion ein größerer Teil der KI-Debatte wird. Am Freitag drängte Papst Leo XIV., der ein ausgesprochener Kritiker von KI ist, die Kirche dazu, mit Künstlern zusammenzuarbeiten, um menschliche Kreativität zu schützen, und sagte: "Algorithmen fehlt der Funke der Menschlichkeit". Die Times berichtete, dass Olah vor einer Veranstaltung im Vatikan im Mai versucht habe, die Berater des Papstes davon zu überzeugen, die Möglichkeit bewusster Modelle ernster zu nehmen.axios

Altmans Beitrag kommt zudem in einer turbulenten Woche für OpenAI. Ein Sicherheitsmitarbeiter kündigte in einem Essay in The Atlantic und schrieb, die "Kultur des Unternehmens sei kaputt", und OpenAI entließ drei Forscher, von denen das Unternehmen behauptete, sie hätten unsensible Informationen falsch gehandhabt.ground+1