Anthropic CEO’su, Claude’un kötüye kullanımının ardından yapay zeka için yavaşlama çağrısı yaptı

Anthropic, 10 Eylül'de yayınladığı 154 sayfalık tehdit istihbaratı raporunda, kötü niyetli aktörlerin sekiz aylık bir süre boyunca Claude yapay zeka modellerini drone savaşı, biyolojik silah araştırmaları, siber casusluk ve dolandırıcılık için nasıl kullandıklarını detaylandırdı. Bu bulgular, CEO Dario Amodei'nin Cumartesi günü yapay zeka endüstrisine yavaşlama çağrısının hemen öncesinde geldi.anthropic+1

Kamikaze Drone'lardan Biyolojik Silahlara

2025 Aralık ile 2026 Ağustos arasındaki faaliyetleri kapsayan rapor, Claude Code'u kullanarak insan gözetimi olmadan hedef seçebilen ve patlama komutu verebilen kamikaze drone sürüsü için yazılım geliştiren Rus bir serbest çalışan ekibini belgeliyor. DronDoc adını verdikleri projeyi yürüten ekip, Rusya'daki bölgesel bir üniversiteyle bağlantılı dokuz hesabı kullandı.dronexl

En endişe verici vakalar arasında: İran bağlantılı bir operasyonun ABD deniz kuvvetlerini takip eden hedefleme el kitapları oluşturması, kuzey Yemen'deki bir silah hücresinin füze güdüm yazılımı geliştirmesi ve Çin bağlantılı bir aktörün WhatsApp ve Telegram grupları üzerinden Uygurları tespit edip hedef alması yer alıyor. Mali'deki bir danışman ise 25 milyon SIM kartı izleyebilen ülke çapında bir telefon gözetim sistemi kurdu.axios

Anthropic ayrıca, devlet destekli bir hibeyle çalışan araştırmacıların sivrisinek kaynaklı bir virüsü daha kolay yayılacak şekilde değiştirmeye çalıştığı vakalar da dahil olmak üzere beş biyolojik kötüye kullanım girişimini engelledi.npr+1

Yavaşlama Çağrısı

Kötüye kullanım vakalarının tamamı Claude'un Haiku, Sonnet veya Opus modellerini içeriyordu; hiçbiri daha yeni olan Fable veya Mythos sınıfı sistemleri içermiyordu. Rapor ayrıca Alibaba, Moonshot ve DeepSeek dahil olmak üzere yedi Çin merkezli laboratuvarın Claude'a karşı damıtma kampanyaları yürüttüğünü ve Alibaba'nın ↘ 3.72% "şimdiye kadar ölçtüğümüz en büyük damıtma saldırısı" olarak tanımlandığını ortaya koydu.zmina+2

Bulgular, Amodei'nin Cumartesi günü "Sınırı Yavaşlatmalıyız" başlıklı bir makale yayınlamasıyla aynı zamana denk geldi. Amodei, yapay zeka şirketlerine yetenek geliştirme hızını yavaşlatmaları çağrısında bulundu ve Anthropic'in bunu "tek taraflı" olarak taahhüt edeceğini belirtti.politico+2

Washington'dan Yanıt

Bu açıklamalar Washington'daki baskıyı artırdı. İki partili bir grup milletvekili, Meclis Başkanı Mike Johnson'ı Kongre yapay zeka güvenliği konusunda harekete geçene kadar tatili iptal etmeye çağırırken, Senatör Bernie Sanders süper zekanın tamamen yasaklanmasını talep etti.axios+2