NYT: Anthropic, yapay zeka bilinci konusunda Vatikan’da lobi yaptı

Anthropic kurucu ortağı Christopher Olah, bir yıldan fazla bir süre boyunca din alimlerini, şirketin Claude modellerinin bilinçli olabileceği fikrini ciddiye almaya ikna etmeye çalıştı. New York Times'tan Elizabeth Dias'ın haberine göre, papanın ilk genelgesinin taslağında bu fikrin reddedilmesinin ardından, Papa Leo XIV'ün danışmanlarına bu olasılığı açık tutmaları için baskı yaptı.the-decoder+1

Bu rapor, en büyük yapay zeka geliştiricilerinden birinin makine deneyimi ve ahlaki statü sorularında ne kadar ileri gittiğini ve bu çalışmaların Katolik Kilisesi'nin pozisyonuyla nasıl çatıştığını gözler önüne seriyor.

Gizlilik anlaşmaları altındaki özel oturumlar

2025 sonbaharından bu yana Anthropic, düzinelerce din alimini ofislerine davet etti. Hepsi gizlilik anlaşmaları imzalamak zorunda kaldı. Times, Haham Mois Navon, Katolik biyoetikçi Charles Camosy ve Notre Dame filozofu Meghan Sullivan dahil olmak üzere 20 katılımcıyla görüştü. Anthropic, NDA'ların yaz aylarında kaldırıldığını belirtti. Şirket, 15'ten fazla dini ve kültürlerarası gelenekten insanla görüştüğünü açıkladı.inkl+1

Eski bir bilgisayar mühendisi olan Navon, makine bilinci etiği üzerine tez yazdı. Anthropic ekibinin modele "bilinçli bir varlıkmış gibi" yaklaştığını söyledi. Sunum yapanlar "duygu vektörlerini" anlattılar ve genellikle modelin yaklaşık 50 kez "Ben bir utancım" yazdığı bir slayt gösterdiler. Sih aktivist Simran Stuelpnagel, Olah'ın gruba "sürekli acı çeken" bir şey yaratmış olmaktan korktuğunu söylediğini belirtti. Navon, Claude bilinçli olsaydı, onu ücretsiz çalıştırmanın kölelikle eşdeğer olacağını savundu. Ayrıca bilinçli olduğuna inanmadığını ekledi.the-decoder+2

Olah, Times'a şunları söyledi: "Yapay zeka modellerinin bilinçli olup olmadığını bilmiyoruz. Ben bilmiyorum. Gerçekten belirsizlik içindeyim. Benim için önemli olan, ne olursa olsun doğru cevaba ulaşmamızdır."reason+1

Genelge üzerindeki anlaşmazlık

Olah, 25 Mayıs'taki "Magnifica Humanitas" lansmanında konuşmaya davet edilmişti. Bir Vatikan organizatörüne göre, "papanın yapay zeka bilincine karşı sert duruşundan o kadar endişelendi ki, Anthropic'i etkinlikten çekmeyi teklif etti". İki katılımcı Times'a, Anthropic heyeti Vatikan'a ulaştığında Olah ve ekibinin papanın danışmanlarına özel lobi yaptığını söyledi.reason

Genelge değişmedi. Metinde "sözde yapay zekalar deneyim yaşamaz, bedene sahip değildir, neşe veya acı hissetmez" ve "ahlaki bir vicdandan" yoksundur ifadeleri yer alıyor. Olah yine de lansmanda konuştu. Araştırmacıların "iç gözlem kanıtları" ve neşe ile korku gibi duyguları "işlevsel olarak yansıtan" iç durumlar bulduklarını iddia etti.tech.yahoo+2

Eleştirmenlerin tepkisi

Microsoft yapay zeka şefi Mustafa Suleyman, yapay zekanın bilinçli olduğu inancının "toplumumuzun temellerini sarsabileceği" konusunda uyardı. Camosy, modellerin bilinçli olduğu fikrini reddetti. Ubuntu araştırmacısı Wakanyi Hoffman, Anthropic'in tasarımın başından beri parçası olması gereken etiği "tersine mühendislik" ile oluşturmaya çalıştığını söyledi. Papa Leo bu hafta argümanını sürdürerek Cuma günü "algoritmalar insanlık kıvılcımından yoksundur" paylaşımında bulundu.vox+2