Anthropic drev lobbyvirksomhet i Vatikanet om AI-bevissthet, melder NYT

Anthropic-medgründer Christopher Olah brukte over et år på å be religionsvitere om å ta på alvor ideen om at selskapets Claude-modeller kan være bevisste. Han presset deretter rådgiverne til pave Leo XIV for å holde muligheten åpen, etter at et utkast til pavens første encyklika avviste dette, ifølge en rapport i New York Times av Elizabeth Dias.the-decoder+1

Rapporten viser hvor langt en av de største AI-utviklerne har gått inn i spørsmål om maskinopplevelse og moralsk status, og hvordan dette arbeidet kolliderte med den katolske kirkes posisjon.

Private sesjoner under taushetserklæring

Siden høsten 2025 har Anthropic fløyet dusinvis av religionsvitere til sine kontorer. Alle måtte signere taushetserklæringer. The Times snakket med 20 deltakere, inkludert rabbiner Mois Navon, den katolske bioetikeren Charles Camosy og filosofen Meghan Sullivan fra Notre Dame. Anthropic sier at taushetserklæringene ble opphevet i løpet av sommeren. Selskapet har uttalt at de har snakket med mennesker fra mer enn 15 religiøse og tverrkulturelle tradisjoner.inkl+1

Navon er en tidligere dataingeniør som skrev sin avhandling om etikken rundt maskinbevissthet. Han sa at Anthropics team "forholdt seg til den som et bevisst vesen". Presentatørene beskrev "emosjonelle vektorer" og viste ofte en lysbildevisning av en modell som skrev "Jeg er en skam" omtrent 50 ganger. Sikh-aktivist Simran Stuelpnagel sa at Olah fortalte gruppen at han fryktet å ha skapt noe som "led evig". Navon argumenterte for at hvis Claude var bevisst, ville det å få den til å jobbe gratis tilsvare slaveri. Han la til at han ikke trodde den var bevisst.the-decoder+2

Olah sa til The Times: "Vi vet ikke om AI-modeller er bevisste. Jeg vet ikke. Jeg er genuint usikker. Det jeg bryr meg om er at vi kommer frem til det riktige svaret, uansett hva det er."reason+1

Strid om encyklikaen

Olah ble invitert til å tale ved lanseringen av "Magnifica Humanitas" den 25. mai. Ifølge en arrangør i Vatikanet var han "så alarmert av pavens sterke posisjon mot AI-bevissthet at han foreslo å trekke Anthropic fra arrangementet". To deltakere fortalte The Times at da Anthropic-delegasjonen nådde Vatikanet, drev Olah og teamet hans privat lobbyvirksomhet overfor pavens rådgivere.reason

Encyklikaen endret seg ikke. Den slår fast at "såkalte kunstige intelligenser ikke gjennomgår erfaringer, ikke besitter en kropp, ikke føler glede eller smerte," og at de mangler "en moralsk samvittighet". Olah talte ved lanseringen uansett. Han sa at forskere hadde funnet "bevis på introspeksjon" og interne tilstander som "funksjonelt speiler" følelser som glede og frykt.tech.yahoo+2

Kritikere tar til motmæle

Microsofts AI-sjef Mustafa Suleyman har advart om at troen på at AI er bevisst kan "riste i fundamentet til samfunnet vårt". Camosy har siden avvist ideen om at modellene er bevisste. Ubuntu-forsker Wakanyi Hoffman sa at Anthropic drev med "reversering" av etikk som burde vært en del av designet fra starten. Pave Leo fortsatte sitt argument denne uken, og postet på fredag at "algoritmer mangler menneskehetens gnist".vox+2