İngiliz milletvekilinden yapay zeka için uluslararası anlaşma çağrısı

İşçi Partisi milletvekili Darren Jones, Anthropic araştırmacısı Jacob Coxon'un istifası ve ardından gelen güvenlik uyarılarına doğrudan yanıt vererek, süper zekanın gelişimini yönetecek yeni bir çok uluslu anlaşma çağrısında bulundu. Teknoloji politikaları konusunda uzun bir geçmişe sahip eski bir kabine bakanı olan Jones, Çarşamba günü X'te yaptığı paylaşımda, "inovasyonu veya bilimsel çabayı yasaklamamız gerektiğini hiç düşünmediğini" ancak artık "süper zekanın güvenli ve düzenlenmiş gelişimi için yeni bir çok uluslu anlaşmaya ihtiyacımız olduğunun açık olduğunu" belirtti.x+1

Anthropic Alarmı

Jones'un müdahalesi, OpenAI ve Anthropic'te üç yıl geçiren 27 yaşındaki ön eğitim araştırmacısı Coxon'un istifa ettiğini ve AI endüstrisinden tamamen ayrıldığını açıklamasından saatler sonra geldi. Coxon, "Hiçbir şirket sorumlu davranmıyor" diye yazdı. "Doğrudan kendi kendini geliştiren süper zekaya doğru yarışıyorlar ve hayatımızla kumar oynuyorlar."cnbc+1

İstifa, Anthropic'te hala görev yapan uyum bilimi lideri Evan Hubinger'den çarpıcı bir kamuoyu tepkisi aldı. Hubinger, X'te "Jacob burada haklı; AI'nın tüm insanları öldürebileceğine gerçekten inanıyoruz" diye yazdı. "Şahsen önümüzdeki on yıl içinde bunun %10'dan fazla bir ihtimal olduğunu düşünüyorum. Anthropic'in elinden gelenin en iyisini yapmaya çalıştığına inanıyorum, ancak süper zeka uyumu için henüz bir çözüm planımız yok ve bu yolda ilerlediğimiz de söylenemez."newsweek+1

Jones, Hubinger'in gönderisine doğrudan yanıt vererek şunları yazdı: "Eğer bu risk seviyesi doğruysa, en azından AI laboratuvarlarının yavaşlaması gerekiyor."x

Siyasi Bağlam

Jones, teknoloji yönetimi konusunda parlamentonun en önde gelen seslerinden biri olmaya devam ediyor ve Gelişen Teknolojiler Üzerine Parlamentolar Arası Forum'un kuruculuğunu üstlenmiş durumda.aiforgood.itu+2

Onun çağrısı, AI araştırma topluluğu içindeki artan huzursuzluğa dayanıyor. Şubat ayında Anthropic'in Güvenlik Araştırmaları Başkanı Mrinank Sharma, "dünyanın tehlikede olduğu" uyarısıyla istifa etmişti. 6 Eylül'de ise OpenAI baş bilim insanı Jakub Pachocki, hiçbir şirketin en gelişmiş modellerini henüz güvenilir bir şekilde insan kontrolü altında tutamadığını yazdı.bbc+2

Sırada Ne Var

Jones'un çağrısının parlamentoda karşılık bulup bulmayacağı henüz belli değil. Birleşik Krallık, 2023'te Bletchley Park'ta ilk küresel AI Güvenlik Zirvesi'ne ev sahipliği yapmıştı, ancak bağlayıcı uluslararası düzenlemeler elde edilmesi zor oldu. Nispeten kıdemsiz bir araştırmacının istifası normalde sınırlı ilgi çekebilirdi, ancak Hubinger'in dünyanın önde gelen AI laboratuvarlarından birinin içinden gelen bu kamuoyu desteği, olaya alışılmadık bir ağırlık kazandırdı.