Anthropic, OpenAI ve Google yapay zeka güvenlik standartları kurulu oluşturmayı görüşüyor

Yapay zekanın önde gelen üç geliştiricisi olan Anthropic, OpenAI ve Google Alphabet Inc. ↗ 1.53% DeepMind, The Information'ın Pazar günü yayınlanan raporuna göre, yapay zeka için ortak bir endüstri standartları kurulu oluşturmak üzere perde arkasında görüşmeler yürütüyor. Görüşmeler, Anthropic CEO'su Dario Amodei'nin Cumartesi günü sektöre yapay zeka gelişimini yavaşlatma çağrısında bulunmasından önce, en azından Temmuz ayından beri devam ediyor.theinformation+1

Ortak Güvenlik Protokollerine Doğru

Önerilen organizasyon, teknik testler ve yapay zeka modellerinin piyasaya sürülmeden önceki denetimleri için ortak protokoller oluşturacak. Sam Altman, Demis Hassabis ve Amodei, test ve risk analizi için uluslararası forumlar da dahil olmak üzere, ABD liderliğindeki yapay zeka güvenlik standartları iş birliği için kamuoyuna çağrıda bulundular.cryptobriefing+1

Üç laboratuvar hala temel detaylar konusunda anlaşmazlık yaşıyor. Anthropic hükümet ortaklığına daha yakın dururken, OpenAI gönüllü endüstri kurallarını vurguluyor. Tartışmalar, Microsoft ↗ 0.65%'ın da dahil olduğu Frontier Model Forum aracılığıyla yapılan önceki koordinasyonlara dayanıyor.aiweekly+1

Amodei'nin Makalesi Zemin Hazırlıyor

Amodei'nin Cumartesi günü yayınlanan yaklaşık 3.800 kelimelik makalesi, özel görüşmeler için kamuoyu zemini oluşturdu. Yapay zekanın 6 ila 12 ay içinde "tüm interneti ele geçirebilecek" otomatik sürülere liderlik edebileceği konusunda uyardı. Amodei, "Yavaşlamanın, modeller kritik yetenek seviyelerine ulaşmadan önce bize fazladan bir veya iki yıl kazandıracağına ve bu süreyi uyum sağlamayı ilerletmek için kullanırsak, ciddi bir şeylerin ters gitme riskini büyük ölçüde azaltabileceğimize inanıyorum" diye yazdı.latimes

Üç aşamalı planı, bağımsız değerlendiricilerin yapay zeka laboratuvarlarına yerleştirilmesini, demokratik ülkelerdeki şirketler arasında ortak güvenlik standartlarının koordine edilmesini ve küresel koordinasyonun sürdürülmesini talep ediyor.techcrunch+2

Çin Sorunu

Önerinin en tartışmalı unsuru uluslararası koordinasyon olabilir. Amodei Pazar günü, Çin'in "en zor ikilemi" temsil ettiğini kabul etti. Future of Life Institute'un 2026 yazına ait Yapay Zeka Güvenlik Endeksi, sektörün güvenlik karnesiyle ilgili daha geniş endişeleri vurgulayarak, üç şirket arasında Anthropic'i C+ ile en yüksek, OpenAI'ı C ve Google DeepMind'ı C ile derecelendirdi.cnbc+1