Anthropic’in Claude Fable 5’i, temel biyoloji sorularını engellediği için tepki çekti

Anthropic, Salı günü halka açık ilk Mythos sınıfı yapay zeka modeli olan Claude Fable 5'i piyasaya sürdü, ancak sistemin otomatik güvenlik sınıflandırıcıları, koruma mekanizmalarının biyoloji, tıp ve siber güvenlik gibi modelin özellikle başarılı olması beklenen konulardaki rutin soruları engellediğini belirten kullanıcıları şimdiden hayal kırıklığına uğratıyor.

Geniş Filtreler, Dar Erişim

Fable 5, temel mimarisini yalnızca onaylı iş ortaklarına sunulan kısıtlı bir model olan Claude Mythos 5 ile paylaşıyor. Temel fark, siber güvenlik, biyoloji, kimya ve model damıtma ile ilgili istekleri izleyen bir sınıflandırıcı katmanıdır. Bu filtreler tetiklendiğinde, yanıtlar sessizce Anthropic'in önceki en iyi modeli olan Claude Opus 4.8'e yönlendirilir. Anthropic, bu yedekleme sisteminin ortalama olarak oturumların yüzde 5'inden azında devreye girdiğini belirtiyor.techcrunch+2

Ancak bu ortalama, daha ciddi bir sorunu gizliyor. The Verge, Çarşamba günü Fable'ın bir lise öğrencisinin bile cevaplayabileceği temel biyoloji sorularını, örneğin saman nezlesi, antibiyotik direnci ve astım ilaçlarının nasıl çalıştığına dair sorguları yanıtlamayı reddettiğini bildirdi. Reddit'te bir kanser araştırmacısı, hesap profilinde "prostat kanseri hücre hatları" gibi terimler geçtiği için, selamlaşmalar ve hava durumu soruları dahil olmak üzere her bir sorgunun Opus 4.8'e yönlendirildiğini belirtti. Anthropic sözcüsü Paruul Maheshwary, The Verge'e yaptığı açıklamada, şirketin "müşterilerin riskler olmadan modelin yeteneklerinden daha erken yararlanabilmesi için bu ödünleşimi yaptığını" söyledi.reddit+1

Sektör Tepkisi

Business Insider, kısıtlamaların analistlerden ve ilk kullanıcılardan eleştiri aldığını belirtti. Moor Insights & Strategy CEO'su Patrick Moorhead, X'te Fable 5'in kazanç analizi konuşma noktaları ve bir yönetim kurulu sunumu konusunda yardım etmeyi reddettiğini, çünkü görevleri "çok tehlikeli" bulduğunu yazdı. "Hepimizin korktuğu ve Anthropic'i 1 trilyon dolar değerinde yapan model bu mu?" diye yazdı.Business Insider Africa

Bu arada, The Verge'e göre Microsoft ↗ 0.56%, Anthropic'in tüm Mythos sınıfı model trafiği için zorunlu olan 30 günlük veri saklama politikasıyla ilgili endişeler nedeniyle çalışanlarının Fable 5 kullanımını kısıtlıyor.U.S. News & World Report

Kasıtlı Bir Ödünleşim

Anthropic, biyoloji filtrelerinin kasıtlı olarak muhafazakar olduğu konusunda şeffaf davrandı. Şirket, Fable 5'in "kötü niyetli aktörlerin yüksek riskli biyolojik araştırmalar için kullanma yeteneğine sahip" olduğuna inandığı ilk Mythos sınıfı model olduğunu ve güvenli bir dağıtım için aşırı temkinli bir yaklaşımın gerekli olduğunu belirtti. Şirket, yanlış pozitifleri azaltmak için çalıştığını ve güvenilir bir erişim programı aracılığıyla Mythos 5'e sınırsız erişimi daha geniş yaşam bilimleri araştırmacılarına yaymayı planladığını ifade ediyor.anthropic+1

22 Haziran'a kadar Fable 5, Pro, Max, Team ve Enterprise aboneleri için ek ücret olmaksızın dahil olmaya devam edecek. Bu tarihten sonra erişim, kullanım kredileri gerektirecek.thenextweb+1