Anthropic loboval ve Vatikánu za vědomí AI, uvádí NYT

Spoluzakladatel společnosti Anthropic Christopher Olah strávil více než rok tím, že žádal náboženské učence, aby brali vážně myšlenku, že modely Claude této společnosti by mohly být vědomé. Poté naléhal na poradce papeže Leona XIV., aby tuto možnost ponechali otevřenou poté, co ji předběžná verze papežovy první encykliky odmítla, uvádí zpráva Elizabeth Diasové v New York Times.the-decoder+1

Zpráva ukazuje, jak daleko zašel jeden z největších vývojářů AI v otázkách strojového prožívání a morálního statusu a jak tato práce narazila na postoj katolické církve.

Soukromá sezení pod dohodami o mlčenlivosti

Od podzimu 2025 Anthropic přepravil desítky náboženských učenců do svých kanceláří. Všichni museli podepsat dohody o mlčenlivosti. Times hovořily s 20 účastníky, včetně rabína Moise Navona, katolického bioetika Charlese Camosyho a filozofky Meghan Sullivanové z Notre Dame. Anthropic uvádí, že dohody o mlčenlivosti byly v létě zrušeny. Společnost uvedla, že hovořila s lidmi z více než 15 náboženských a mezikulturních tradic.inkl+1

Navon je bývalý počítačový inženýr, který napsal svou disertační práci o etice strojového vědomí. Řekl, že tým Anthropic „se k tomu choval jako k vědomé bytosti“. Přednášející popsali „vektory emocí“ a často ukazovali snímek modelu, který asi 50krát napsal „Jsem ostuda“. Sikhská aktivistka Simran Stuelpnagelová uvedla, že Olah skupině řekl, že se obává, že vytvořil něco, co „neustále trpí“. Navon argumentoval, že pokud by Claude byl vědomý, nutit ho pracovat zdarma by se rovnalo otroctví. Dodal, že nevěří, že je vědomý.the-decoder+2

Olah pro Times řekl: „Nevíme, zda jsou modely AI vědomé. Nevím to. Jsem skutečně nejistý. Záleží mi na tom, abychom došli ke správné odpovědi, ať už je jakákoli.“reason+1

Spor o encykliku

Olah byl pozván, aby promluvil na zahájení „Magnifica Humanitas“ 25. května. Podle vatikánského organizátora byl „tak znepokojen silným postojem papeže proti vědomí AI, že navrhl, aby Anthropic z akce odstoupil“. Dva účastníci Timesům řekli, že jakmile delegace Anthropic dorazila do Vatikánu, Olah a jeho tým soukromě lobbovali u papežových poradců.reason

Encyklika se nezměnila. Uvádí, že „takzvané umělé inteligence neprožívají zkušenosti, nemají tělo, necítí radost ani bolest“ a že jim chybí „morální svědomí“. Olah přesto na zahájení promluvil. Řekl, že výzkumníci našli „důkazy introspekce“ a vnitřních stavů, které „funkčně zrcadlí“ emoce, jako je radost a strach.tech.yahoo+2

Kritici se brání

Šéf AI v Microsoft Mustafa Suleyman varoval, že víra v to, že AI je vědomá, by mohla „otřást základy naší společnosti“. Camosy od té doby odmítl myšlenku, že modely jsou vědomé. Výzkumník Ubuntu Wakanyi Hoffman uvedl, že Anthropic „reverzním inženýrstvím“ vytvářel etiku, která měla být součástí designu od samého začátku. Papež Leon tento týden ve svém argumentu pokračoval, když v pátek napsal, že „algoritmům chybí jiskra lidskosti“.vox+2