Anthropic’s Claude Fable 5 får kritik för att blockera grundläggande biologifrågor

Anthropic lanserade Claude Fable 5 på tisdagen, deras första publikt tillgängliga AI-modell i Mythos-klassen, men systemets automatiserade säkerhetsfilter frustrerar redan användare som säger att skyddsmekanismerna blockerar rutinfrågor om biologi, medicin och cybersäkerhet – ämnen som modellen specifikt marknadsfördes för att utmärka sig inom.

Breda filter, begränsad åtkomst

Fable 5 delar sin underliggande arkitektur med Claude Mythos 5, en begränsad modell som endast är tillgänglig för godkända partners. Den största skillnaden är ett lager av klassificerare som övervakar förfrågningar relaterade till cybersäkerhet, biologi, kemi och modelldestillering. När de utlöses omdirigeras svaren i tysthet till Claude Opus 4.8, Anthropic's tidigare toppmodell. Anthropic säger att denna reservlösning aktiveras i genomsnitt i färre än 5 procent av sessionerna.techcrunch+2

Men det genomsnittet döljer ett större problem. The Verge rapporterade på onsdagen att Fable vägrade svara på grundläggande biologifrågor som en gymnasieelev skulle kunna hantera, inklusive frågor om hösnuva, antibiotikaresistens och hur astmamediciner fungerar. På Reddit sa en cancerforskare att eftersom deras kontoprofil nämner termer som "prostatacancercellinjer", omdirigeras varje enskild fråga – inklusive hälsningar och väderfrågor – till Opus 4.8. Anthropic-talespersonen Paruul Maheshwary sa till The Verge att företaget "gjorde detta val så att kunderna kan dra nytta av modellens förmågor snabbare utan riskerna".reddit+1

Branschens reaktion

Business Insider noterade att restriktionerna har väckt kritik från analytiker och tidiga användare. Patrick Moorhead, VD för Moor Insights & Strategy, skrev på X att Fable 5 vägrade hjälpa till med punkter för resultatanalys och en styrelsepresentation eftersom den ansåg uppgifterna vara "för farliga". "Är detta modellen vi alla är rädda för och som gör Anthropic värd 1 biljon dollar?" skrev han.Business Insider Africa

Samtidigt rapporteras det att Microsoft ↗ 2.38% begränsar anställdas användning av Fable 5 på grund av oro för Anthropic's obligatoriska 30-dagars datalagringspolicy för all trafik från Mythos-klassen, enligt The Verge.U.S. News & World Report

En medveten avvägning

Anthropic har varit öppen med att biologifiltren är medvetet konservativa. Företaget sa att Fable 5 är den första modellen i Mythos-klassen som de anser har "förmågan att användas av illasinnade aktörer för högriskbiologisk forskning", och att en överförsiktig ansats var nödvändig för säker driftsättning. Företaget säger att de arbetar på att minska antalet falska positiva resultat och planerar att utöka obegränsad Mythos 5-åtkomst till fler forskare inom biovetenskap genom ett program för betrodd åtkomst.anthropic+1

Fram till den 22 juni förblir Fable 5 inkluderad utan extra kostnad för Pro-, Max-, Team- och Enterprise-prenumeranter. Efter det kommer åtkomst att kräva användningskrediter.thenextweb+1