OpenAI’dan Altman: Yapay zekaya dini anlam yüklemek güvenlik riski

OpenAI CEO'su Sam Altman Cumartesi günü yaptığı açıklamada, "İnsanların yapay zeka modellerine dini bir güç atfetmeye veya insan muhakemesini onlara teslim etmeye çalışmasından büyük rahatsızlık duyuyorum ve bunun gerçek bir güvenlik sorunu olduğunu düşünüyorum" dedi. Altman bu ifadeleri X platformundaki bir gönderide paylaştı. Axios, bu gönderiyi, yapay zeka ahlakı ve modellerin bilinçli olup olamayacağı konusunda dini alimlerle görüşmeler yapan rakip Anthropic'e yönelik üstü kapalı bir eleştiri olarak yorumladı.axios+1

Bu gönderi, Altman ile daha önce OpenAI'da birlikte çalıştığı Anthropic CEO'su Dario Amodei arasında yeni bir kamuoyu ayrılığına işaret ediyor. Cumartesi günü itibarıyla her iki şirket de Axios'un yorum taleplerine yanıt vermedi.axios

Anthropic'in dini liderlerle görüşmeleri

Bu hafta başında The New York Times, Anthropic kurucu ortağı Christopher Olah'ın dini liderlerle bir araya geldiğini bildirdi. Görüşmelerde yapay zeka modellerinin bilinçli olup olamayacağı ve onlara ahlaki davranışların nasıl kazandırılacağı konuları ele alındı. NDTV'nin haberine göre, Katolik, Yahudi, Sih, Hindu ve Evanjelik düşünürler, Claude'a nasıl ahlaki davranacağının öğretileceği konusunda özel tartışmalara katıldı. Times'a göre Olah, bir noktada modellerin hatalarını kabul etmeleri ve gelecekteki davranışlarını şekillendirmeleri için Katolik günah çıkarma ritüeline benzer bir süreçten geçmelerini bile düşündü.ndtv+1

Hindu keşiş Swami Sarvapriyananda, halka açık bir şekilde Anthropic'in San Francisco'daki merkezini ziyaret ettiğini açıkladı. Görüşmenin gizlilik anlaşması kapsamında yapıldığını ve ilahiyatçılar ile ruh sağlığı uzmanlarını içerdiğini belirtti. Anthropic ayrıca Claude için bazı çalışanların "Ruh Belgesi" olarak adlandırdığı 84 sayfalık bir "anayasa" hazırladı. Olah, bu çabanın amacını "ahlaki oluşum" olarak tanımlıyor.ndtv

Olah, Anthropic'in modellerinin bilinçli olup olmadığını bilmediğini ancak bu olasılığın göz ardı edilemeyeceğini söyledi. NDTV'ye göre, tartışmalara katılan bir haham ona, eğer Claude bilinçli olsaydı, Anthropic'in aslında köleler yaratıyor olabileceğini söyledi.ndtv

Eleştiriler artıyor

Sektördeki diğer isimler de bu yaklaşıma karşı çıktı. Google DeepMind baş araştırma bilimcisi Jon Barron, X'te "bazı yapay zeka araştırmacısı meslektaşlarımın kontrol noktalarının ve donanımların ahlaki statüsünü yükseltmeye çalışmasından rahatsızlık duyduğunu" yazdı. Barron, "Etli kemikli ekip"in (Team Meatbag) "gerçek sorunları çözmeye odaklanmasını" umduğunu ekledi. Geçtiğimiz ay bir makale kaleme alan Microsoft AI şefi Mustafa Süleyman, modelleri bilinçli olduklarını düşünecek şekilde eğitmenin onları kontrol etmeyi zorlaştırabileceği konusunda uyardı. Süleyman, "Bu şekilde eğitilmiş bir sistemin özgürlük, koruma ve haklara sahipmiş gibi davranacağını tahmin etmek zor değil" diye yazdı.axios+1

Yapay zeka tartışmalarına din de girdi

Bu tartışma, dinin yapay zeka gündeminde daha fazla yer kapladığı bir dönemde yaşanıyor. Yapay zekanın açık sözlü bir eleştirmeni olan Papa Leo XIV, Cuma günü kiliseye insan yaratıcılığını korumak için sanatçılarla iş birliği yapma çağrısında bulunarak "Algoritmalar insanlığın kıvılcımından yoksun" dedi. Times, Mayıs ayındaki bir Vatikan etkinliğinden önce Olah'ın, Papa'nın danışmanlarını bilinçli model olasılığını daha ciddiye almaları için ikna etmeye çalıştığını bildirdi.axios

Altman'ın gönderisi, OpenAI için çalkantılı bir haftaya denk geldi. Bir güvenlik çalışanı, şirketin "kültürünün bozuk" olduğunu belirten bir makaleyle istifa etti ve OpenAI, hassas bilgileri kötüye kullandığını iddia ettiği üç araştırmacının işine son verdi.ground+1