Anthropic kurucusu: Yapay zeka için ‘acil durdurma’ düğmesi yasal zorunluluk olabilir

Geçen hafta istifası teknoloji dünyasında büyük yankı uyandıran eski Anthropic ve OpenAI araştırmacısı Jacob Coxon, NBC News'in Meet the Press programına verdiği demeçte, yapay zeka sistemlerini kapatmanın bugün teknik olarak mümkün olduğunu ancak bu fırsat penceresinin kapanmak üzere olabileceğini söyledi. Coxon'un uyarısı, Anthropic kurucu ortağı Jack Clark'ın BBC'ye üçüncü tarafça doğrulanmış bir "acil durdurma" düğmesinin yapay zeka şirketleri için yasal bir zorunluluk haline gelmesi gerekebileceğini söylemesinin ardından geldi.bbc

9 Eylül'de Anthropic'ten istifa ederken "yapay zekayı inşa edenlerin, bunun on yılın sonuna kadar hepimizi öldürebileceğine içtenlikle inandıklarını" yazan Coxon, hafta sonu boyunca katıldığı medya programlarında Anthropic CEO'su Dario Amodei'nin sınır yapay zeka geliştirmeyi yavaşlatma çağrısına destek verdi. Cumartesi günü Meet the Press'te konuşan Coxon, bir acil durdurma düğmesinin "şu an için birçok yapay zekada muhtemelen işe yarayacağını" ancak "çok yakında, sistem internet çapında bir hack saldırısına girişmiş olabileceği için bu düğmelerin çalışmama ihtimalinin bulunduğunu" belirtti.thestatesman+2

Sektör Liderleri Kısıtlama İçin Birleşiyor

Coxon'un halka açık kampanyası, normalde birbirinin kıyasıya rakibi olan isimler arasında alışılmadık bir hizalanma yarattı. Amodei hafta sonu, sınır yapay zeka şirketleri içinde kalıcı üçüncü taraf değerlendiriciler, demokratik ülkeler arasında ortak güvenlik standartları ve uluslararası koordinasyonu içeren üç aşamalı bir güvenlik çerçevesi önerdi. OpenAI CEO'su Sam Altman, Elon Musk ve Google Alphabet Inc. ↘ 1.24% DeepMind CEO'su Demis Hassabis, kısıtlama çağrısına destek verdiler.ciodive+1

Microsoft ↘ 1.64% CEO'su Satya Nadella da desteğini dile getirerek X platformunda şunları yazdı: "Süper zeka arayışı, inşa ettiğimiz yapay zeka insanlığa yardımcı olmuyorsa ve insan kontrolü altında değilse, peşinden gitmeye değmeyeceği temel ilkesine dayanmalıdır". Nadella, gömülü değerlendiricileri destekledi ve yönetişimin "bir avuç kuruluşun" ötesine geçmesi çağrısında bulundu.thestatesman+1

Acil Durdurma Düğmesi Tartışması Yasalaşıyor

Clark, BBC'ye verdiği demeçte "çoğu laboratuvarın sistemlerini devre dışı bırakmak için çeşitli yöntemleri olduğunu" ancak düzenleyicilerin bu tür önlemleri zorunlu kılabileceğini belirtti. Amerika Birleşik Devletleri'nde yasa koyucular, şirketlerin kapatma mekanizmaları uygulamasını zorunlu kılacak ve devlet kurumlarına belirli araçların devre dışı bırakılmasını talep etme yetkisi verecek olan Acil Durdurma Yasası'nı (Kill Switch Act) önerdiler.bbc

Anthropic uyum araştırmacısı Evan Hubinger, tartışmanın aciliyetine dikkat çekerek, yapay zekanın insan neslini tüketme olasılığının "önümüzdeki on yıl içinde %10'dan fazla" olduğuna inandığını açıkladı. Nobel ödüllü Geoffrey Hinton, bu tahmini "mantıksız değil" olarak nitelendirdi.bbc

Herkes aynı fikirde değil. Başkan Donald Trump, Pazartesi günü yaptığı açıklamada yavaşlama çağrısına karşı çıkarak bunun Amerikan rekabet gücünü zayıflatabileceği konusunda uyardı. İngiliz hükümeti de bir sözcü aracılığıyla acil durdurma düğmesi fikrini reddederek, "bunun başka yerlerdeki gelişimi veya kötüye kullanımı engelleyemeyeceğini" ifade etti.ciodive+1

Coxon için argüman basit. NBC News'e verdiği demeçte, "Kişisel görüşüm, mevcut laboratuvarların kendilerini düzenlemeleri konusunda ısrarcı olunması ve buna izin verilmesi yönünde" dedi. "Laboratuvarları yöneten insanların, özellikle son iletişimleri göz önüne alındığında, tamamen samimi olduklarını düşünüyorum. Kendilerini yavaşlatmak istiyorlar".economictimes