Anthropic uyum sorumlusu: Yapay zekanın insanlığı yok etme ihtimali yüzde 10’un üzerinde

Anthropic'te uyum bilimi çalışmalarını yöneten Evan Hubinger, Salı günü X üzerinden yaptığı açıklamada, yapay zekanın önümüzdeki on yıl içinde "tüm insanları öldürme" ihtimalinin yüzde 10'dan fazla olduğuna şahsen inandığını belirtti. Bu açıklama 10 milyondan fazla görüntülenme alarak şirketin beklenen halka arzı (IPO) hakkındaki finansal yorumları sarstı.bbc+2

Hubinger, "Jacob burada haklı; yapay zekanın tüm insanları öldürebileceğine gerçekten inanıyoruz! Şahsen ben bunun önümüzdeki on yıl içinde yüzde 10'dan fazla olduğunu düşünüyorum" diye yazdı. "Anthropic'in elinden geleni yaptığına inanıyorum ancak süper zeka uyumunu çözmek için henüz bir planımız yok ve bu konuda net bir ilerleme kaydetmiş değiliz."x

Bir istifa zincirleme reaksiyon başlattı

Hubinger'in paylaşımı, hem Anthropic hem de OpenAI'da üç yıl geçirdikten sonra Anthropic'ten istifa ettiğini X üzerinden duyuran yapay zeka araştırmacısı Jacob Coxon'a yanıt olarak geldi. Coxon, her iki şirketi de "kendi kendini geliştiren süper zekaya doğru yarışmak ve hayatlarımızla kumar oynamakla" suçladı.nypost+1

Coxon, "Yapay zekayı inşa eden insanlar, on yılın sonuna kadar bunun hepimizi öldürebileceğine içtenlikle inanıyor. Bu bir pazarlama numarası değil" diye yazdı ve yöneticiler ile kıdemli araştırmacıların özel olarak ifade ettikleri korkuları kamuoyu önünde yumuşattıklarını ekledi.saudigazette+1

Üçüncü bir Anthropic çalışanı olan ölçeklenebilir gözetim sorumlusu Samuel Marks, aynı başlık altında kendi değerlendirmesini ekleyerek "genel olarak çalışan ne kadar kıdemliyse o kadar endişeli" diye yazdı.breitbart

Cramer heyecandan tereddüde geçti

Bu açıklamalar CNBC'de alışılmadık bir sahne yarattı. Salı gecesi yayınlanan Mad Money programında Jim Cramer, izleyicilere Anthropic'in "dev bir halka arz olabileceğini ve yatırımcıların buna katılmak için diğer tüm hisselerini satacağını" söyledi. Çarşamba sabahı Squawk on the Street programında ise Hubinger'in tahminini cerrahi ölüm oranlarıyla kıyasladı. Cramer, "Eğer bir ameliyat olmanız gereken bir durumdaysanız ve ameliyatın ölüm riski yüzde 5'ten fazlaysa, hayır, bunu yapmazsınız… Yüzde 10, yüzde 5'in iki katıdır" dedi ve bu kişinin Anthropic'te hala çalışıyor olmasına "çok şaşırdığını" ekledi.tech-insider+1

Anthropic, SEC'e henüz bir S-1 dosyası sunmadı ve özel şirket statüsünü koruyor; ancak Financial Times News Corp ↘ 0.78%, hissedarların şirketin nihayetinde 2 trilyon doların üzerinde bir değerlemeyle listelenmesini beklediğini bildirdi. Şirket daha önce 965 milyar dolar değerlemeyle H serisi yatırım turunu tamamlamıştı.247wallst+1

Uyarılar silsilesi

Hubinger'in tahmini, diğer önde gelen yapay zeka figürleri tarafından daha önce belirlenen aralıkta yer alıyor. Axios'a göre, Anthropic CEO'su Dario Amodei daha önce felaketle sonuçlanma ihtimalini yaklaşık yüzde 25 olarak belirtirken, Geoffrey Hinton yüzde 10 ile yüzde 20 arasında bir aralık tahmin etmişti. Ancak Hubinger'in açıklaması, işi tam da çözülmemiş olduğunu söylediği sorunu çözmek olan bir çalışanın kayıtlara geçen bir beyanı olması nedeniyle ayrı bir ağırlık taşıyor ve halka arz spekülasyonlarının yoğunlaştığı bir dönemde geliyor.tech-insider

Bu olay, Financial Times'ın Anthropic'in en son modelini Birleşik Krallık'ın Yapay Zeka Güvenlik Enstitüsü'nden sakladığına dair raporunun ardından geldi. Cambridge Üniversitesi'nde makine öğrenimi profesörü olan Neil Lawrence, BBC'ye verdiği demeçte, Amerika Birleşik Devletleri'nin "yapay zekayı Çin ile bir yarış olarak gördüğü" bir ortamda raporun inandırıcı olduğunu belirtti.bbc+1

Ne Anthropic ne de OpenAI gelişimi yavaşlatma belirtisi gösterdi. OpenAI'ın baş bilim insanı Jakub Pachocki, bu ayın başlarında "aşırı dikkat" çağrısında bulundu ancak bir duraklama ilan etmekten kaçındı. 1.300 yapay zeka şirketi çalışanı tarafından imzalanan açık bir mektup, ABD hükümetini "otomatik yapay zeka gelişiminin sınırlarını bilinçli bir şekilde yavaşlatmaya" yardımcı olmaya çağırdı.saudigazette+1