Yapay zeka laboratuvarları modellerin biyolojik silah tasarımına yardım etmesini engellemeye çalışıyor

Yapay zeka şirketleri, en gelişmiş modellerinin yeni virüsler veya biyolojik silahlar tasarlamak için kullanılmasını önlemek amacıyla çalışmalarını yoğunlaştırıyor. Yöneticiler ve biyogüvenlik uzmanları, tek bir başarısızlığın felaketle sonuçlanabileceği konusunda uyarıyor.

Financial Times'ın Salı günü bildirdiğine göre, OpenAI, Anthropic ve Google DeepMind Alphabet Inc. ↘ 12.29%, modelleri bilimsel alanlarda giderek daha yetenekli hale geldikçe biyolojik risk testlerini ve erişim kontrollerini genişletiyor. Endişe, mevcut halka açık sohbet robotlarının talep üzerine biyolojik silah üretebilmesi değil, yeni nesil bilimsel modellerin kötü niyetli kişiler için engelleri düşürebilecek olmasıdır.techbooky+1

Açık erişim için fazla yetenekli bir model

Bu sorun şimdiden somut ürün kararlarını zorunlu kıldı. Anthropic'in Haziran ayında piyasaya sürülen Claude Fable 5 modelinin, şirket içi testlerde biyolojik silah yapmak isteyen birine "önemli bir destek" sağladığı, yani "başka hiçbir yerde bulamayacakları" yetenekler sunduğu tespit edildi. Buna yanıt olarak Anthropic, hassas biyoloji sorgularını Fable 5'ten daha eski ve daha az yetenekli bir model olan Opus 5'e yönlendiren bir sınıflandırıcı sistemi kurdu.thenextweb+1

Lansman sırasında güvenlik önlemleri o kadar agresifti ki, biyolojiyle ilgili neredeyse tüm soruları engelleyerek geniş çaplı eleştirilere yol açtı. Ağustos ayında Anthropic, uzmanların katkılarıyla sınıflandırıcı kurallarını yeniden yazdı ve biyolojiyle ilgili yanlış pozitifleri yaklaşık yüzde 85 oranında azalttı. Ancak viroloji, toksikoloji ve moleküler tasarım gibi çift kullanımlı alanlar kısıtlı kalmaya devam ediyor ve Fable 5 bu sorgular için hala Opus 5'e geri dönüyor.anthropic+2

Şirketin en güçlü modeli olan Mythos 5, yalnızca onaylı siber güvenlik ekipleri, hükümet bağlantılı kuruluşlar ve araştırma kurumlarına erişim sağlayan Project Glasswing programı aracılığıyla incelenmiş ortaklara sunuluyor.coursiv

Sektör genelinde güvenlik önlemleri

Sıkılaşan kontroller, sektör genelindeki daha geniş bir seferberliği takip ediyor. Haziran ayında Anthropic, OpenAI ve Microsoft ↘ 0.16% AI CEO'ları, yapay zeka yardımıyla biyolojik silah oluşturmak için kullanılabilecek sentetik DNA ve RNA siparişlerinin taranmasını zorunlu kılmak için Kongre'ye ortak bir mektup imzaladı. 2026 tarihli bir endüstri güvenlik raporu, birkaç öncü yapay zeka laboratuvarının, modellerinin acemilerin kimyasal veya biyolojik silah geliştirmesine yardımcı olabileceği ihtimalini göz ardı edemedikleri için kısıtlamalar eklediğini ortaya koydu.fortune+2

RAND Corporation Ağustos ayında çok katmanlı bir savunma stratejisi ana hatlarıyla belirledi ve hiçbir tekil önlemin yapay zeka destekli biyolojik saldırıları önleyemeyeceğini, ancak dokuz müdahalenin birleştirilmesinin riski anlamlı ölçüde azaltabileceğini sonucuna vardı. Atlantic Council'in Bipartisan Biyosavunma Komisyonu, yapay zekayı ilk kez resmi bir teknoloji önceliği olarak belirledi.rand+1

Çift kullanımlı ikilem

Düzenleyiciler ve şirketler için zorluk, biyolojinin doğası gereği çift kullanımlı olmasıdır. İlaç keşfini ve protein araştırmalarını hızlandıran aynı yapay zeka sistemleri, tehlikeli bilgilerin bir araya getirilmesini de kolaylaştırabilir. Bir biyogüvenlik uzmanının Financial Times'a söylediği gibi, "Tek bir hata yeterli olacaktır" — sektörün, açıklık ile güvenlik arasında denge kurmaya çalışırken bile ciddiye aldığı bir uyarı.ft+1