Yapay zeka devlerinden ortak çağrı: Güvenlik endişeleri nedeniyle geliştirme yavaşlatılsın

Yapay zeka sektörü, teknolojinin ana akım haline gelmesinden bu yana en önemli iç hesaplaşmasını yaşıyor. Lider laboratuvarlar, yapay zeka modellerinin otonom olarak kendilerinden daha yetenekli halefler geliştirdiği "özyinelemeli kendi kendini geliştirme" sürecinin tahmin edilenden çok daha yakın olduğunu kabul ederken, üst düzey yöneticiler geliştirme sürecinin yavaşlatılması mı yoksa hızlandırılması mı gerektiği konusunda kamuoyu önünde karşı karşıya geliyor.

On Günlük Zincirleme Reaksiyon

Reuters'ın haberine göre hareketlilik, 3 Eylül'de OpenAI'ın en yeni modeli Astra'yı duyurmasıyla başladı. Şirket bu duyuruyu yaparken, piyasaya sürdüğü yapay zeka sistemlerini "gittikçe daha az kontrol edebildiğini, hatta izlemekte bile zorlandığını" itiraf etti. Birkaç gün sonra, 8 Eylül'de Anthropic araştırmacısı Jacob Coxon istifa etti ve sosyal medyada hızla yayılan paylaşımlarında yapay zeka laboratuvarlarının "hayatlarımızla kumar oynadığı" uyarısında bulundu. Bir diğer Anthropic araştırmacısı Evan Hubinger ise X platformunda şu paylaşımı yaptı: "Yapay zekanın tüm insanlığı yok edebileceğine gerçekten tüm kalbimizle inanıyoruz."reuters

12 Eylül'e gelindiğinde Anthropic CEO'su Dario Amodei, geliştirme sürecinin yavaşlatılması çağrısında bulunan yaklaşık 4.000 kelimelik bir makale yayımladı ve altı ila 12 ay içinde yapay zeka ajan sürülerinin "tüm interneti ele geçirme kapasitesine ulaşabileceği" uyarısını yaptı. Amodei'ye; OpenAI, Google'ın Alphabet Inc. ↗ 2.01% şirketi bünyesindeki DeepMind, Microsoft ↗ 2.58% ve xAI yöneticileri de katılarak, geliştirmenin yavaşlatılması ve dış firmaların sistemleri güvenlik açısından denetlemesine izin verilmesi yönünde nadir görülen ortak bir çağrıda bulundu.reuters

Görüş Ayrılığı: Amodei, Huang'a Karşı

Ancak herkes aynı fikirde değil. Nvidia ↘ 4.81% CEO'su Jensen Huang, yapay zeka geliştirme çalışmalarına ara verilmesi yönündeki önerileri reddetti. Bu hafta sonu yayınlanacak bir röportajda CBS News'e konuşan Huang, "Başkalarının ne yaptığına bakmaksızın olabildiğince hızlı ilerlemeliyiz" dedi ve ekledi: "Hazır olmayan ürünleri asla piyasaya sürmeyiz ve sürmemeliyiz, güvenli olmayan ürünleri asla teslim etmeyiz."cbsnews

Meta ↗ 5.34% CEO'su Mark Zuckerberg de benzer bir tavır takınarak, sektör genelinde koordineli bir yavaşlama yerine her laboratuvarın kendi hızını belirlemesi gerektiğini savundu. Zuckerberg, sosyal medyadaki bir paylaşımında, "Modellerinin zarar vermesi durumunda laboratuvarlar ciddi bir sorumlulukla karşı karşıya kalır, bu yüzden bunu önlemek için güçlü bir motivasyonları var" diye yazdı.reuters

The Wall Street Journal News Corp ↗ 0.07%, bu ayrılığı sektörü tanımlayan bir bölünme olarak nitelendirdi: Amodei temkinli yaklaşımın yüzü olurken, Huang ise kısıtlamalara karşı çıkan en güçlü ses olarak öne çıkıyor.wsj

Özyinelemeli Kendi Kendini Geliştirme Gerçeğe Yaklaşıyor

Endişeleri körükleyen unsur, özyinelemeli kendi kendini geliştirme konusunda kaydedilen somut ilerlemeler. Associated Press'in haberine göre Anthropic bu hafta, geliştirdiği Claude modelinin şu anda şirketin kendi araştırma ve geliştirme faaliyetlerinin %26'sını yönettiğini açıkladı. OpenAI, otomatik bir "araştırma stajyeri" geliştirdi ve Mart 2028'e kadar tamamen otonom bir yapay zeka "araştırmacısı" hedefliyor. Elon Musk ise xAI'ın Grok modellerinin bu yılın sonuna kadar tamamen otonom kendi kendini geliştirme aşamasına gelebileceğini belirtti.wral

Araştırmacılar bu ayın başlarında, yapay genel zekanın üç yıl gibi kısa bir süre içinde ortaya çıkabileceği uyarısında bulunmuştu. Future of Life Institute Başkanı Anthony Aguirre, tamamen otonom yapay zeka gelişiminin hedeflenmesini kastederek, "Bu muhtemelen insanlık tarihindeki en kötü fikir" dedi.reuters+1

Bu sırada Başkan Donald Trump, yapay zeka güvenlik uyarılarını bir "aldatmaca" olarak nitelendirdi ve herhangi bir yavaşlamanın yalnızca Çin'in işine yarayacağı konusunda uyardı. Çin, geliştirici yükümlülükleri ve devlet destekli güvenlik standartları önermek için harekete geçmişken, ABD Kongresi yapay zeka düzenlemeleri konusunda çok az ilerleme kaydetti.reuters

Microsoft Yapay Zeka Birimi Başkanı Mustafa Suleyman ise durumu düşündürücü bir şekilde özetledi: "Hepimiz aynı amaca odaklanmış durumdayız, o da bir süper zekayı kontrol etmeye çalışmak. Bence bu, 21. yüzyılda karşı karşıya kalacağımız en büyük zorluk olacak."reuters