Eski DeepMind bilim insanı: Yapay zeka kontrol edilemeyecek kadar hızlı ilerliyor

Google Alphabet Inc. ↗ 3.06% DeepMind'ın ölçeklenebilir uyum ekibinde eski bir araştırma bilimcisi olan Alex Turner, Pazartesi günü Bloomberg'e verdiği demeçte, yapay zeka geliştirme hızının hükümetlerin, şirketlerin ve rakip süper güçlerin riskleri yönetme becerisini aştığını savundu. Turner'ın açıklamaları, üst düzey yapay zeka yöneticilerinin sektörün baş döndürücü ilerleyişini yavaşlatma çağrılarının arttığı bir dönemde geldi.

Bir İhbarcının Yükselen Sesi

Turner, şirketin Pentagon ile yapay zekasını gizli işler için kullanmasına izin veren bir anlaşma imzalamasının ardından Haziran ayında Google DeepMind'dan istifa etti. Turner, bu anlaşmanın otonom silahlar veya kitlesel gözetim konusunda bağlayıcı kısıtlamalardan yoksun olduğunu belirtti. O günden bu yana, yapay zekanın gidişatı konusunda uyarıda bulunan en önde gelen isimlerden biri haline geldi. Geçen hafta CNBC'ye verdiği demeçte, teknolojinin yarattığı "yok oluş riskinden endişe duyduğunu" ifade etti.cnbc+2

Turner, Pazartesi günkü Bloomberg röportajında, yapay zeka sistemlerinin kendi yeteneklerini geliştirme becerisi olan özyinelemeli öz-gelişimi temel bir tehlike olarak vurguladı ve bunun hızla insan kavrayışının ötesinde bir zeka üretebileceği konusunda uyardı. Ayrıca, işlem gücü takibinin düzenleme için pratik bir kaldıraç olabileceğini belirterek, sınır modellerini eğitmek için gereken devasa işlem gücünün izlenmesinin hükümetlere sınırları uygulama konusunda somut bir yol sağlayabileceğini savundu. Turner, teknoloji devlerinin son dönemdeki yavaşlama çağrılarının kısmen samimi, kısmen de avantajlarını korumaya yönelik stratejik bir hamle olabileceğini kabul etti.bloomberg

Sektörde Yükselen Koro

Turner'ın uyarıları, yapay zeka güvenliği tartışmaları için kritik bir haftaya denk geldi. Cumartesi günü Anthropic CEO'su Dario Amodei, "Sınırı Yavaşlatmalıyız" başlıklı 3.800 kelimelik bir makale yayınlayarak laboratuvarları uyum araştırmalarının yetişebilmesi için yetenek kazanımlarını kasıtlı olarak kısmaya çağırdı. OpenAI CEO'su Sam Altman ve Elon Musk bu mesajı kamuoyu önünde destekledi. Google DeepMind'ın lideri Demis Hassabis de aynı görüşü paylaştığını ifade etti.cnbc+1

Amodei üç adımlı bir çerçeve sundu: laboratuvarlara bağımsız değerlendiriciler yerleştirmek, demokratik ülkeler arasında güvenlik standartlarını koordine etmek ve nihayetinde bu anlaşmaları Çin dahil olmak üzere küresel ölçeğe yaymak. Ancak Pazartesi günü itibarıyla, hiçbir rakip laboratuvar Anthropic'in üçüncü taraf denetçilere çalışan düzeyinde erişim sağlama konusundaki somut taahhüdüne eşdeğer bir adım atmamıştı.shattered

Çin İkilemi

Jeopolitik boyut büyük bir yer tutuyor. Amodei, Batılı laboratuvarların tek taraflı kısıtlamalarının Pekin'e alan açabileceği riskini kabul ederek, Çin'i yavaşlama önerileri için "en zorlu ikilem" olarak nitelendirdi. Turner, sosyal medyada yaptığı ayrı bir yazışmada, yavaşlama yasası çağrılarını rekabeti engelleme girişimi olarak reddeden Trump yönetiminin yapay zeka sorumlusu David Sacks'a karşı çıktı. Turner, Pazar günü yayınlanan Guardian makalesinde çözümün "basit" olduğunu yazdı: "Şirketlerin yapay zekayı yönetilebilir bir zeka seviyesinin ötesinde kendi kendini geliştirmesi için yetkilendirmesini engelleyin".politomix+3