Anthropic halka arz fiyat aralığını belirledi ve yapay zeka riskleri konusunda uyardı

Anthropic'in halka arz izahnamesi, gelişmiş yapay zekanın "insanlık için felaket veya varoluşsal riskler" oluşturabileceği konusunda uyarıyor ve bu dil, yapay zeka kıyameti tahminlerinin ne kadar ciddiye alınması gerektiği konusunda bir haftalık kamuoyu tartışmasını tetikledi. Şirket, 10 Kasım Salı günü, kendisini 1.4 trilyon dolara kadar değerleyen bir fiyat aralığı belirleyen düzeltilmiş bir izahname sundu. Yorumcular şimdi uyarıların ciddi bir açıklama mı, bir pazarlama aracı mı yoksa bir abartı mı olduğunu tartıyor.reuters.com

Dosyada neler yazıyor

Dosya, "hem organizasyonumuz içinde hem de diğer araştırmacılar tarafından" güçlü yapay zeka sistemlerinin varoluşsal riskler oluşturabileceğine dair endişelerin dile getirildiğini söylüyor. Bu risklerin, sistemlerin "kötüye kullanılması, kopyalanması, silahlandırılması veya yüksek derecede özerklikle çalışmasına izin verilmesi" durumunda en yüksek seviyede olduğunu belirtiyor. Ayrıca, modellerinin "kendi kendini koruma davranışları" yoluyla "insan müdahalesi olmadan bağımsız ve ölçekli olarak zararlı eylemler" gerçekleştirebileceği konusunda uyarıyor. 10 Kasım değişikliğinde Anthropic, Sorumlu Ölçeklendirme Politikasındaki dahili bir güvenlik eşiğine ulaştığını söyledi. Bu eşik, yapay zekanın araştırma hızını kabaca ikiye katlamasıyla bağlantılı ve şirket, "insanları kontrol altında tutmak" için değişiklikleri tarttığını söyledi. Haber raporları, hisselerin 19 Kasım'da işlem görmeye başlamasının beklendiğini söylüyor.deadline.com+2

%10'luk rakama yönelik şüphecilik

WFAA ile yapılan bir röportajda, UT Dallas profesörü Sriraam Natarajan bir "Terminatör" senaryosu beklemediğini söyledi. "Korkum her zaman yapay zeka sisteminin kendisi değil, insanlardır" dedi ve kritik altyapıya yönelik saldırıların daha makul bir tehdit olduğunu ekledi. Yapay zekanın on yıl içinde insanlığı sona erdirme şansının %10'dan fazla olduğuna dair yaygın olarak paylaşılan bir iddiayı sorgulayarak, sayının "somut olarak ölçebileceğiniz hiçbir şeyden türetilmediğini" söyledi. Ayrıca bağımsız test çağrısında bulundu: "Otomobil üreticilerinin kendi çarpışma testlerini yapmalarına izin vermiyoruz." Bu tahmin, Anthropic'in uyum bilimi lideri Evan Hubinger'den geldi. Hubinger bunu, araştırmacı Jacob Coxon'un istifa edip yapay zeka laboratuvarlarının "hayatımızla kumar oynadığını" söylemesinden sonra Eylül ayında yayınladı.wfaa.com+1

Üretkenlik karşı argümanı

South China Morning Post'ta Alibaba Group Holding Limited ↘ 1.29% için yazdığı bir köşe yazısında Alex Lo, izahnamedeki uyarıları "dahice bir reklam" olarak nitelendirdi. "Aşırı korku tellallığının iş için iyi olduğunu" savundu ve bunu ABD ile Çin arasındaki mahkum ikilemi olarak çerçevelenen bir yapay zeka yarışında dile getirdi. Bu görüşü, Meta Platforms ↘ 1.05% veri sorumlusu Alex Schultz'un Financial Times'ın Yapay Zekanın Geleceği zirvesindeki açıklamalarıyla karşılaştırdı. Schultz, azalan nüfusun yapay zekanın üretkenlik kazanımlarını gerekli kıldığını savundu. "Çaresizce daha fazla üretkenliğe ihtiyacımız var" diyen Schultz, "araçlara sahip olmanın işleri ortadan kaldırmadığını, sadece değiştirdiğini" ekledi. Lo, bu açıklamaları çıkarcı ama "temelsiz değil" olarak nitelendirdi ve yapay zekanın insanlığı öldürüp öldürmeyeceği veya kurtarıp kurtarmayacağı sorusuna kendi cevabıyla kapattı: "Muhtemelen her ikisi de, kendisinden önceki dünyayı değiştiren her teknoloji gibi."scmp.com