Anthropic biyolojik silah araştırmalarıyla bağlantılı yapay zeka suistimallerini engelledi

Anthropic Perşembe günü, yapay zeka modellerinin son dokuz ayda devlet destekli bilgisayar korsanları, suç grupları ve biyolojik silahlarla ilgili çalışmalar yürüten araştırmacılar tarafından kullanıldığını ortaya koyan, bugüne kadarki en ayrıntılı tehdit istihbaratı raporunu yayımladı. Bu açıklama, yapay zekanın hem siber suç hem de biyolojik güvenlik riski ortamını ne kadar hızlı şekillendirdiğini vurguluyor.

"Detecting and Countering Misuse of AI: September 2026" (Yapay Zekanın Kötüye Kullanımını Tespit Etme ve Önleme: Eylül 2026) başlıklı rapor, şirketin Tehdit İstihbaratı ekibinin Aralık 2025 ile Ağustos 2026 arasında siber operasyonlar, biyolojik suistimal, gözetleme, etki operasyonları ve konvansiyonel silah geliştirme dahil olmak üzere yedi zarar kategorisinde engellediği faaliyetleri kapsıyor. Claude Haiku, Sonnet ve Opus modellerinin tamamı suistimal edilirken şirket, vakaların hiçbirinde daha yeni olan Claude Fable veya Mythos sınıfı modellerinin yer almadığını belirtti.techxplore+1

Biyolojik Silah Araştırmaları Tespit Edildi

En endişe verici bulgular arasında Anthropic, Claude'un biyolojik silah geliştirilmesini destekleyebilecek araştırmalar için kullanılma girişimlerini tespit ettiğini açıkladı. Vakaların birinde, chikungunya virüsü üzerinde işlev kazanımı araştırmaları yürüten virologlara hizmet veren bir platformun, bölgesel engelleri aşmak için sorguları ABD altyapısı üzerinden yönlendirdiği ve içeriği gizlemek için sıfır veri saklama hizmetleri kullandığı belirlendi. Bir diğer vakada, desteklenmeyen bir bölgeden Claude'a erişen bir araştırmacının, yüksek derecede patojenik kuş gribi üzerinde memeli adaptasyonu çalışması planladığı görüldü. Üçüncü bir vakada ise Anthropic'in devletle ilişkili bir laboratuvar olarak tanımladığı bir yerde, çiçek hastalığını da içeren virüs ailesi olan canlı ortopoksivirüs araştırması için hibe teklifi taslağı hazırlayan bir kişi tespit edildi.theweek+1

"Yapay zeka modellerinin bir gün mevcut patojenleri daha tehlikeli hale getirmeye veya tamamen yenilerini yaratmaya yardımcı olabilecek bir yetenek seviyesine ulaşmasından uzun süredir endişe duyuluyordu," açıklamasında bulunan şirket, en son modellerinin artık çift kullanımlı biyolojik araştırma sorgularına erişimi kısıtlayan daha güçlü koruma önlemleri içerdiğini belirtti.theweek

Siber Operasyonlar Daha Otonom Hale Geliyor

Rapor ayrıca, tehdit aktörlerinin siber saldırılar için yapay zekayı kullanma biçimindeki değişimi belgeleyerek, yapay zekanın bir yardımcı olmaktan çıkıp bir düzenleyici haline geldiğini açıkladı. Bir vakada, Rusya devlet bağlantılı Midnight Blizzard grubuyla ilişkili bir aktör; Ukrayna hükümet organlarını, Avrupa diplomatik misyonlarını ve insansız hava aracı teknolojisi tedarik zincirlerini hedef alan sızma kampanyalarının neredeyse her aşamasını otomatikleştirdi. Aktör, kimlik avı altyapısı oluşturmak, tespiti engellemek amacıyla kötü amaçlı yazılımları değiştirmek ve yüzlerce gigabayt çalınmış veriyi sızdırmak için Claude'u kullandı.anthropic

Ayrı bir finansal motivasyonlu ve ShinyHunters kolektifiyle bağlantılı saldırgan grubu ise kitlesel veri hırsızlığını hızlandırmak için Claude'u kullanarak birden fazla kurbandan milyonlarca ödeme kartı kaydı ve yolcu verisi çaldı. Anthropic, yapay zekanın devlet destekli operasyonlar ile bireysel bilgisayar korsanları arasındaki "iş gücü ve araç gereç açığını kapattığına" dikkat çekerek, karmaşık saldırıların artık karmaşık saldırganlar gerektirmediğini belirtti.anthropic

Zamanlama Dikkat Çekiyor

BBC'nin haberine göre raporun yayımlanması, bir Anthropic araştırmacısının şirketin ve emsallerinin yapay zeka geliştirme konusunda sorumlu davranmadığını iddia ederek kamuoyuna açık bir şekilde istifa etmesinden iki gün sonra gerçekleşti. Hindistan'ın Noida kentinde yaşayan yapay zeka araştırmacısı Kishan R., "Bunun gibi durumlar, işin etik boyutunu araştırmamız gereken anlardır," dedi. "Anthropic ve xAI gibi şirketler, yapay zeka modellerinin güvenli kullanımını neyin oluşturduğunu nasıl belirliyor? Bu kurumsal değil, demokratik bir sorudur".bbc+1