Anthropic kurucu ortağından yapay zeka için zorunlu ‘acil durdurma’ çağrısı

Anthropic kurucu ortağı Jack Clark, Pazartesi günü BBC'ye verdiği demeçte, hükümetlerin yapay zeka şirketlerini sistemlerine bağımsız olarak doğrulanabilir "acil durdurma" mekanizmaları yerleştirmeye zorlamayı düşünmeleri gerektiğini söyledi. Bu açıklama, sektör içinden yapay zeka geliştirme hızına yönelik artan endişelere düzenleyici bir boyut kazandırıyor.bbc

Clark, Anthropic dahil olmak üzere çoğu büyük yapay zeka laboratuvarının halihazırda yazılımlarını kapatmak için dahili mekanizmalara sahip olduğunu, ancak gönüllü önlemlerin yeterli olmayabileceğini belirtti. Görüşmede "Şirketlerin bir acil durdurma mekanizmasına sahip olması zorunlu tutulmalı mı? Bu mekanizma üçüncü bir tarafça doğrulamaya tabi mi?" diye soran Clark, bu soruların yapay zeka etrafındaki "daha geniş politika diyaloğunun" merkezinde yer aldığını ifade etti.bbc

Endişe Dolu Bir Hafta

Bu açıklamalar, Anthropic ve daha geniş yapay zeka sektörü için çalkantılı bir dönemin sonunda geldi. 8 Eylül'de Anthropic araştırmacısı Evan Hubinger, önümüzdeki on yıl içinde yapay zeka nedeniyle insan neslinin tükenme ihtimalinin yüzde 10'dan fazla olduğuna inandığını kamuoyuna açıkladı. Nobel ödüllü Geoffrey Hinton, BBC'ye verdiği demeçte bu rakamın "mantıksız olmadığını" söyledi. Bu yorumlar, yapay zeka laboratuvarlarını "kendi kendini geliştiren süper zekaya doğru yarışmak ve hayatlarımızla kumar oynamakla" suçlayan araştırmacı Jacob Coxon'un istifasının ardından geldi.bbc+2

Cumartesi günü, Anthropic CEO'su Dario Amodei, 3.800 kelimelik bir makale yayınlayarak yapay zeka yeteneklerinin geliştirilmesinde geniş çaplı bir yavaşlama çağrısında bulundu ve sektörün koruyucu önlemleri uygulamak için "bir ila iki yıllık ek süreye" ihtiyacı olduğunu savundu. Makale, OpenAI CEO'su Sam Altman, Elon Musk ve Google Alphabet Inc. ↗ 3.06% DeepMind başkanı Demis Hassabis'ten hızlı destek gördü. Başkan Donald Trump ise Pazar günü yaptığı açıklamada uyarıları reddederek eleştirenleri "çok olumsuz güçlere" benzetti ve Amerika Birleşik Devletleri'nin teknolojideki liderliğini koruması gerektiğinde ısrar etti.cbc+2

Yaklaşan Halka Arz

Clark'ın düzenleme çağrısı, Ekim ayı gibi erken bir tarihte halka arz (IPO) hazırlığı yapan Anthropic için ticari açıdan kritik bir ana denk geliyor. Financial Times'a göre yatırımcılar, şirketin yaklaşık 2 trilyon dolar değerlemeye ulaşabileceğini öngörüyor; bu rakam gerçekleşirse şirketi tarihin en büyük halka arzı yapacak. Yatırımcılar FT'ye, Anthropic'in yıllık gelirinin 2026 sonuna kadar 100 milyar dolar ile 120 milyar dolar arasına ulaşma yolunda ilerlediğini ve bunun yıl boyunca on katın üzerinde bir artış anlamına geldiğini belirtti.qz+1

Clark, kısıtlama çağrısında bulunmak ile kıyasıya rekabetçi bir pazarda faaliyet göstermek arasındaki gerilimin farkında olduğunu kabul etti. Yapay zekayı "tamamen düzenlenmemiş bir sektör" olarak bırakmanın tehlikeli bir yol olduğu konusunda uyardı. "Büyük risklerle kumar oynuyoruz" diyen Clark, "Mesele şu ki, bu sektörün gidişatını değiştirmemiz gerekiyor" ifadelerini kullandı.bbc