Model Claude Fable 5 od společnosti Anthropic čelí kritice za blokování základních otázek z biologie

Společnost Anthropic v úterý spustila Claude Fable 5, svůj první veřejně dostupný model umělé inteligence třídy Mythos, ale automatizované bezpečnostní klasifikátory systému již frustrují uživatele, kteří tvrdí, že ochranné mechanismy blokují běžné otázky týkající se biologie, medicíny a kybernetické bezpečnosti – tedy témat, v nichž měl model podle marketingu vynikat.

Široké filtry, úzký přístup

Fable 5 sdílí základní architekturu s Claude Mythos 5, omezeným modelem dostupným pouze prověřeným partnerům. Klíčovým rozdílem je vrstva klasifikátorů, které monitorují požadavky týkající se kybernetické bezpečnosti, biologie, chemie a destilace modelů. Při aktivaci jsou odpovědi tiše přesměrovány na Claude Opus 4.8, předchozí špičkový model společnosti Anthropic. Anthropic uvádí, že tato záložní varianta se v průměru aktivuje u méně než 5 procent relací.techcrunch+2

Tento průměr však zakrývá závažnější problém. Server The Verge ve středu informoval, že Fable odmítl odpovědět na základní biologické otázky, které by zvládl i student střední školy, včetně dotazů na sennou rýmu, odolnost vůči antibiotikům a fungování léků na astma. Jeden výzkumník v oblasti rakoviny na Redditu uvedl, že protože jeho profil obsahuje termíny jako „buněčné linie rakoviny prostaty“, každý jednotlivý dotaz – včetně pozdravů a otázek na počasí – je přesměrován na Opus 4.8. Mluvčí společnosti Anthropic Paruul Maheshwary pro The Verge uvedla, že společnost „udělala tento kompromis, aby zákazníci mohli využívat schopnosti modelu dříve a bez rizik“.reddit+1

Reakce průmyslu

Business Insider poznamenal, že omezení vyvolala kritiku analytiků i prvních uživatelů. Patrick Moorhead, generální ředitel Moor Insights & Strategy, na síti X napsal, že Fable 5 odmítl pomoci s body pro analýzu výdělků a prezentací pro správní radu, protože úkoly vyhodnotil jako „příliš nebezpečné“. „Je to ten model, kterého se všichni bojíme a díky kterému má Anthropic hodnotu 1 bilion dolarů?“ napsal.Business Insider Africa

Mezitím Microsoft ↗ 0.43% údajně omezuje používání Fable 5 zaměstnanci kvůli obavám z povinné 30denní politiky uchovávání dat společnosti Anthropic pro veškerý provoz modelů třídy Mythos, uvádí The Verge.U.S. News & World Report

Záměrný kompromis

Společnost Anthropic byla transparentní v tom, že biologické filtry jsou záměrně konzervativní. Firma uvedla, že Fable 5 je prvním modelem třídy Mythos, u kterého věří, že má „schopnost být zneužit špatnými aktéry pro vysoce rizikový biologický výzkum“, a že pro bezpečné nasazení byl nutný příliš opatrný přístup. Společnost uvádí, že pracuje na snížení počtu falešně pozitivních výsledků a plánuje rozšířit neomezený přístup k Mythos 5 pro širší okruh vědců v oblasti biologických věd prostřednictvím programu důvěryhodného přístupu.anthropic+1

Do 22. června zůstává Fable 5 součástí předplatného Pro, Max, Team a Enterprise bez příplatku. Poté bude přístup vyžadovat kredity za využití.thenextweb+1