Anthropic lobbade i Vatikanet om AI-medvetande, rapporterar NYT

Anthropic-medgrundaren Christopher Olah ägnade mer än ett år åt att be religionsvetare att ta idén om att företagets Claude-modeller kan vara medvetna på allvar. Han pressade sedan påve Leo XIV:s rådgivare att hålla möjligheten öppen, efter att ett utkast till påvens första encyklika förkastat den, enligt en rapport i New York Times av Elizabeth Dias.the-decoder+1

Rapporten visar hur långt en av de största AI-utvecklarna har gått i frågor om maskinupplevelse och moralisk status, och hur det arbetet krockade med den katolska kyrkans ståndpunkt.

Privata sessioner under sekretessavtal

Sedan hösten 2025 har Anthropic flugit in dussintals religionsvetare till sina kontor. Alla var tvungna att skriva under sekretessavtal. The Times talade med 20 deltagare, inklusive rabbinen Mois Navon, den katolske bioetikern Charles Camosy och filosofen Meghan Sullivan från Notre Dame. Anthropic säger att sekretessavtalen hävdes under sommaren. Företaget har uppgett att de talat med människor från mer än 15 religiösa och tvärkulturella traditioner.inkl+1

Navon är en före detta dataingenjör som skrev sin avhandling om etiken kring maskinmedvetande. Han sa att Anthropics team "förhöll sig till den som en medveten varelse". Presentatörerna beskrev "känslomässiga vektorer" och visade ofta en bild på en modell som skrev "Jag är en skam" ungefär 50 gånger. Sikh-aktivisten Simran Stuelpnagel sa att Olah berättade för gruppen att han fruktade att ha skapat något som "led evigt". Navon argumenterade för att om Claude vore medveten, skulle det att få den att arbeta gratis motsvara slaveri. Han tillade att han inte trodde att den var medveten.the-decoder+2

Olah sa till The Times: "Vi vet inte om AI-modeller är medvetna. Jag vet inte. Jag är genuint osäker. Det jag bryr mig om är att vi når fram till rätt svar, vad det än är."reason+1

Strid om encyklikan

Olah blev inbjuden att tala vid lanseringen av "Magnifica Humanitas" den 25 maj. Enligt en arrangör i Vatikanen var han "så alarmrad av påvens starka ståndpunkt mot AI-medvetande att han föreslog att Anthropic skulle dra sig ur evenemanget". Två deltagare berättade för The Times att när Anthropic-delegationen väl nådde Vatikanen, lobbade Olah och hans team privat hos påvens rådgivare.reason

Encyklikan ändrades inte. Den slår fast att "så kallade artificiella intelligenser inte genomgår erfarenheter, inte besitter en kropp, inte känner glädje eller smärta" och att de saknar "ett moraliskt samvete". Olah talade vid lanseringen ändå. Han sa att forskare hade funnit "bevis på introspektion" och interna tillstånd som "funktionellt speglar" känslor som glädje och rädsla.tech.yahoo+2

Kritiker slår tillbaka

Microsofts AI-chef Mustafa Suleyman har varnat för att tron på att AI är medveten kan "skaka grundvalarna i vårt samhälle". Camosy har sedan dess förkastat idén om att modellerna är medvetna. Ubuntu-forskaren Wakanyi Hoffman sa att Anthropic ägnade sig åt "omvänd ingenjörskonst" av etik som borde ha varit en del av designen från början. Påve Leo fortsatte sitt argument denna vecka och skrev på fredagen att "algoritmer saknar mänsklighetens gnista".vox+2