Hinton: Yapay zekanın insanlığı yok etme ihtimali yüzde 10, makul bir tahmin

Nobel ödüllü bilgisayar bilimcisi Geoffrey Hinton, Salı günü BBC Newsnight'a verdiği demeçte, yapay zekanın önümüzdeki on yıl içinde tüm insanlığı öldürme olasılığının %10 olduğunu ve bunun "makul olmayan bir tahmin gibi görünmediğini" söyledi. Bu açıklama, sunucu Victoria Derbyshire'ı canlı yayında şaşkına çevirdi.ndtvprofit+1

Derbyshire'ın bu rakamın güvenilir olup olmadığını sorması üzerine Hinton, "Yakında bizden daha zeki olabilecek varlıklar yaratmadık. Ne olacağını bilmiyoruz" dedi. "Yüzde 10'luk bir şans bana makul olmayan bir tahmin gibi gelmiyor. Ancak kimse mantıklı bir tahminin nasıl yapılacağını gerçekten bilmiyor." Derbyshire onun sözlerini tekrarladığında, Hinton tek bir kelimeyle yanıt verdi: "Evet." Sunucunun "Vay canına… aman Tanrım" şeklindeki tepkisi internette hızla yayıldı.ndtv+1

Yapay Zeka Nasıl Yıkıma Yol Açabilir?

Makine öğrenimi üzerine yaptığı çalışmalarla 2024 Nobel Fizik Ödülü'nü kazanan Hinton, gelişmiş yapay zekanın varoluşsal bir tehdit oluşturması için dünya üzerinde fiziksel kontrole ihtiyaç duymayacağını söyledi. "Sadece insanlarla konuşarak tam bir kaosa neden olabilir" dedi. "Ayrıca çok kötücül virüsler, hem biyolojik hem de bilgisayar virüsleri tasarlayabilir. Yıkıcı siber saldırılar gerçekleştirebilir." Hinton, riskin %1 kadar düşük olduğunu varsaymanın "çok aptalca" olacağını da sözlerine ekledi.ndtvprofit+1

UC Berkeley profesörü Stuart Russell da bu endişeleri yineleyerek Business Insider'a, yapay zekanın veya yapay zeka destekli aktörlerin elektrik, su, ulaşım ve finansal sistemler dahil olmak üzere kritik altyapılara saldırabileceğini söyledi.businessinsider

Tartışmayı Başlatan Anthropic İstifaları

Hinton'ın röportajı, 8 Eylül'de OpenAI ve Anthropic'in eski ön eğitim araştırmacısı Jacob Coxon'ın istifa etmesiyle başlayan bir dizi olayın ardından geldi. Coxon, X platformunda "Hiçbir şirket sorumlu davranmıyor" diye yazdı. "Doğrudan kendi kendini geliştiren süper zekaya doğru yarışıyorlar ve hayatlarımızla kumar oynuyorlar."ibtimes+1

Anthropic'in uyum bilimi lideri Evan Hubinger, Coxon'ın "haklı" olduğunu ve yapay zekanın on yıl içinde tüm insanlığı öldürme ihtimalinin %10'dan fazla olduğuna şahsen inandığını belirtti. Hubinger, "Süper zekayı hizalamak için henüz bir planımız yok ve bu konuda doğru yolda değiliz" dedi.businessinsider+1

Uzmanlar Arasındaki Keskin Ayrılık

Tüm araştırmacılar bu alarm durumunu paylaşmıyor. Yapay zeka araştırmacısı Gary Marcus, Business Insider'a verdiği demeçte siber saldırıları, biyolojik silahları ve dezenformasyonu ciddi riskler olarak gördüğünü ancak yok oluşu gerçekçi bir yakın dönem sonucu olarak değerlendirmediğini söyledi. "Endişelenilmesi gereken çok ciddi zararlar var, ancak 'tüm insanlığı öldürmek' için bildiğim gerçekçi bir senaryo yok" dedi. Meta'dan ↗ 11.32% Yann LeCun, daha önce bu tür olasılık tahminlerini "içgüdüsel hisler" olarak nitelendirerek reddetmişti. Hinton da CNN'e verdiği demeçte bu karakterizasyonu kısmen kabul ederek, "böyle olasılıklar tahmin eden herkesin aslında sadece vahşi bir tahminde bulunduğunu" ifade etti.businessinsider+1

ITV sunucusu Robert Peston da tartışmaya katılarak X'te şunları yazdı: "Hükümet içinden gelenler de dahil olmak üzere, bunun daha fazla ilgi çekmemiş olmasına biraz şaşırdım."ladbible