Anthropic sin Claude Fable 5 får kritikk for å blokere grunnleggende biologispørsmål

Anthropic lanserte Claude Fable 5 på tirsdag, deres første offentlig tilgjengelige modell i Mythos-klassen, men sikkerhetsfiltre omdirigerer i det stille flaggede spørsmål til den eldre Opus 4.8.techcrunch+1
The Verge rapporterte at modellen nektet å forklare høysnue, antibiotikaresistens og astmamedisiner, mens en kreftforsker på Reddit sa at hver eneste forespørsel ble blokkert.The Verge+1
Anthropic kalte de brede filtrene en bevisst avveining for å forhindre misbruk av biologiske våpen, og sa at de jobber med å redusere falske positive resultater.The Verge+1

Anthropic lanserte Claude Fable 5 på tirsdag, deres første offentlig tilgjengelige AI-modell i Mythos-klassen, men systemets automatiserte sikkerhetsfiltre frustrerer allerede brukere som sier at sikkerhetsmekanismene blokkerer rutinemessige spørsmål om biologi, medisin og cybersikkerhet – temaer modellen spesifikt ble markedsført for å utmerke seg i.

Brede filtre, begrenset tilgang

Fable 5 deler sin underliggende arkitektur med Claude Mythos 5, en begrenset modell som kun er tilgjengelig for godkjente partnere. Den viktigste forskjellen er et lag med klassifiseringsverktøy som overvåker forespørsler knyttet til cybersikkerhet, biologi, kjemi og modelldestillering. Når de utløses, blir svar i det stille omdirigert til Claude Opus 4.8, Anthropic sin forrige toppmodell. Anthropic sier at denne reserveløsningen aktiveres i færre enn 5 prosent av øktene i gjennomsnitt.techcrunch+2

Men det gjennomsnittet skjuler et skarpere problem. The Verge rapporterte onsdag at Fable nektet å svare på grunnleggende biologispørsmål som en videregående elev kunne håndtert, inkludert spørsmål om høysnue, antibiotikaresistens og hvordan astmamedisiner fungerer. På Reddit sa en kreftforsker at fordi kontoprofilen deres nevner termer som «prostatakreft-cellelinjer», blir hver eneste forespørsel – inkludert hilsener og spørsmål om været – omdirigert til Opus 4.8. Anthropic-talskvinne Paruul Maheshwary fortalte The Verge at selskapet «tok dette valget slik at kundene kan dra nytte av modellens evner raskere uten risikoen».reddit+1

Bransjereaksjoner

Business Insider bemerket at restriksjonene har trukket til seg kritikk fra analytikere og tidlige brukere. Patrick Moorhead, administrerende direktør i Moor Insights & Strategy, skrev på X at Fable 5 nektet å hjelpe med punkter for inntjeningsanalyse og en styrepresentasjon fordi den anså oppgavene som «for farlige». «Er dette modellen vi alle er redde for, og som gjør Anthropic verdt 1 billion dollar?» skrev han.Business Insider Africa

I mellomtiden skal Microsoft angivelig begrense ansattes bruk av Fable 5 på grunn av bekymringer om Anthropic sin obligatoriske 30-dagers datalagringspolicy for all trafikk fra Mythos-klassen, ifølge The Verge.U.S. News & World Report

En bevisst avveining

Anthropic har vært åpen om at biologifiltrene er bevisst konservative. Selskapet sa at Fable 5 er den første modellen i Mythos-klassen som de mener har «evnen til å bli brukt av ondsinnede aktører til høyrisiko biologisk forskning», og at en overforsiktig tilnærming var nødvendig for sikker distribusjon. Selskapet sier at de jobber med å redusere falske positive resultater og planlegger å utvide uinnskrenket Mythos 5-tilgang til flere forskere innen biovitenskap gjennom et program for betrodd tilgang.anthropic+1

Frem til 22. juni forblir Fable 5 inkludert uten ekstra kostnad for Pro-, Max-, Team- og Enterprise-abonnenter. Etter det vil tilgang kreve brukskreditter.thenextweb+1

Kilder (27)