Anthropic CEO’su hataları kabul etti, yapay zeka yarışını savundu

Anthropic CEO'su Dario Amodei, Salı gecesi (20 Ekim) X platformunda şirketin en önde gelen güvenlik eleştirmenlerinden birine yaklaşık 2.000 kelimelik bir yanıt verdi. Business Insider'ın haberine göre Amodei, Anthropic'in bazı konuları yanlış yönettiğini kabul etti ancak yapay zeka teknolojisinin sınırında kalmanın, teknolojiyi güvenli hale getirmenin en iyi yolu olduğunu savundu. Amodei, kar amacı gütmeyen savunuculuk kuruluşu Encode AI'nın strateji şefi Nathan Calvin'e yanıt veriyordu. Pazartesi günü 1.500 kelimeden fazla bir gönderi paylaşan Calvin, Anthropic'in güvenlik taahhütleri pahasına süper zekaya doğru yarıştığını gösterdiğini iddia ettiği dokuz eylemi listeledi. Bunlar arasında 500 milyar doları aşan işlemci anlaşmaları ve kendi modellerini oluşturmak için Claude'a olan artan bağımlılık yer alıyor.businessinsider.com

Maliyetli kararların karşı listesi

Amodei, "Stratejimiz her zaman 'zirveye yarış' olarak adlandırdığım şey olmuştur; teknolojiyi sorumlu bir şekilde inşa etmenin mümkün olduğunu göstererek tüm sektör için çıtayı yükseltebiliriz" diye yazdı. Ayrıca, "herhangi bir konudaki herhangi bir karar her zaman kötü niyetli bir plan olarak gösterilebilir" ifadesini kullandı.indiatoday.in+1

Ardından, ticari açıdan maliyetli olduğunu ancak güvenliği artırdığını söylediği kendi dokuz kararını sıraladı. Bunlar arasında California'nın SB 53 yasa tasarısını desteklemek, biyolojik kötüye kullanıma karşı katı güvenlik önlemlerini korumak ve daha güçlü siber güvenlik korumaları hazır olana kadar gelişmiş modellerin daha geniş çaplı sürümünü ertelemek yer alıyor. Ayrıca Mythos modelini sadece küçük bir siber güvenlik ortağı grubuna yayınlamaya ve Çin devleti tarafından kontrol edilen şirketlere satışları kısıtlamaya dikkat çekti. Sınır teknolojisi yeteneklerini geri tutmanın, biyoloji alanındaki ilerlemenin yavaşlaması da dahil olmak üzere "daha geniş bir maliyeti olduğunu" kabul etti.businessinsider.com+1

Yasa tasarısı tartışması

Amodei, Anthropic'in Calvin'in bazı noktalarını daha iyi yönetebileceğini kabul etti. Bunlardan biri, şirketin bu ay Kongre'de dolaşıma soktuğu ve eleştirmenlerin hükümetin tehlikeli modelleri engellemesini zorlaştıracağını söylediği federal yasa tasarısı taslağıydı. İlk olarak Politico tarafından bildirilen taslağa göre, federal yetkililer bir modeli ancak "1 milyar dolardan fazla hasara veya 50'den fazla insanın ölümüne ya da ciddi şekilde yaralanmasına yol açacak öngörülebilir, yakın bir risk" oluşturması durumunda durdurabilecekti. Bir Anthropic sözcüsü, taslağın şirketin Gelişmiş Yapay Zeka Çerçevesini yansıttığını belirtti.politico.com+3

Calvin ayrıca Anthropic'i Sorumlu Ölçeklendirme Politikasını değiştirdiği için eleştirdi. Şubat ayında şirket, güvenlik önlemleri modellerinin yeteneklerinin gerisinde kalırsa kendi kendine durma taahhüdünden vazgeçti. Calvin, "Hatalar neden sistematik olarak Anthropic'in çıkarlarını koruma ve destekleme eğiliminde?" diye sordu.chaincatcher.com+1

Halka arz öncesi inceleme

Bu fikir alışverişi, Anthropic'in Kasım ayında 2 trilyon dolar değerlemeyle gerçekleşmesi beklenen ilk halka arzına (IPO) hazırlandığı bir dönemde gerçekleşti. Şirket geçen hafta üçüncü çeyrek gelirini 16,8 milyar dolar olarak açıkladı.businessinsider.com

Amodei, meydan okuyan bir notla bitirdi: "Her zaman daha iyisini yapmaya çalışacağız ancak tekrar ediyorum, geçmişimizle gurur duyuyorum ve arkasındayım" diye yazdı.businessinsider.com