„Anthropic“ modelis „Claude Fable 5“ sulaukė kritikos dėl blokuojamų pagrindinių biologijos klausimų

Antradienį „Anthropic“ pristatė „Claude Fable 5“ – pirmąjį viešai prieinamą „Mythos“ klasės modelį, tačiau saugumo filtrai tyliai nukreipia pažymėtas užklausas į senesnį „Opus 4.8“.techcrunch+1
„The Verge“ pranešė, kad modelis atsisakė paaiškinti šienligės, atsparumo antibiotikams ir astmos vaistų veikimo principus, o vienas vėžio tyrėjas „Reddit“ teigė, kad buvo blokuojama kiekviena užklausa.The Verge+1
„Anthropic“ pavadino plačius filtrus sąmoningu kompromisu siekiant išvengti biologinių ginklų piktnaudžiavimo ir teigė, kad dirba mažindama klaidingai teigiamų rezultatų skaičių.The Verge+1

Antradienį „Anthropic“ pristatė „Claude Fable 5“ – pirmąjį viešai prieinamą „Mythos“ klasės dirbtinio intelekto modelį, tačiau sistemos automatiniai saugumo filtrai jau erzina vartotojus, kurie teigia, kad apsaugos priemonės blokuoja įprastus klausimus apie biologiją, mediciną ir kibernetinį saugumą – temas, kuriose modelis turėjo ypač pasižymėti.

Platūs filtrai, ribota prieiga

„Fable 5“ dalijasi pagrindine architektūra su „Claude Mythos 5“ – ribotu modeliu, prieinamu tik patikrintiems partneriams. Pagrindinis skirtumas yra filtrų sluoksnis, stebintis užklausas, susijusias su kibernetiniu saugumu, biologija, chemija ir modelio distiliavimu. Kai filtrai suveikia, atsakymai tyliai nukreipiami į „Claude Opus 4.8“ – ankstesnį „Anthropic“ geriausią modelį. „Anthropic“ teigia, kad šis atsarginis variantas vidutiniškai suveikia mažiau nei 5 procentais atvejų.techcrunch+2

Tačiau šis vidurkis slepia didesnę problemą. „The Verge“ trečiadienį pranešė, kad „Fable“ atsisakė atsakyti į pagrindinius biologijos klausimus, kuriuos suprastų vidurinės mokyklos moksleivis, įskaitant užklausas apie šienligę, atsparumą antibiotikams ir astmos vaistų veikimą. „Reddit“ tinkle vienas vėžio tyrėjas teigė, kad kadangi jų paskyros profilyje minimi terminai, tokie kaip „prostatos vėžio ląstelių linijos“, kiekviena užklausa – įskaitant pasisveikinimus ir klausimus apie orus – yra nukreipiama į „Opus 4.8“. „Anthropic“ atstovė Paruul Maheshwary sakė „The Verge“, kad bendrovė „padarė šį kompromisą, kad klientai galėtų greičiau pasinaudoti modelio galimybėmis be rizikos“.reddit+1

Pramonės reakcija

„Business Insider“ pažymėjo, kad šie apribojimai sulaukė analitikų ir ankstyvųjų vartotojų kritikos. Patrickas Moorheadas, „Moor Insights & Strategy“ generalinis direktorius, „X“ tinkle rašė, kad „Fable 5“ atsisakė padėti su pajamų analizės tezėmis ir valdybos pristatymu, nes užduotis įvertino kaip „pernelyg pavojingas“. „Ar tai tas modelis, kurio visi bijome ir dėl kurio „Anthropic“ verta 1 trilijono dolerių?“, – rašė jis.Business Insider Africa

Tuo tarpu „Microsoft“ , kaip pranešama, riboja darbuotojų naudojimąsi „Fable 5“ dėl susirūpinimo „Anthropic“ privaloma 30 dienų duomenų saugojimo politika visam „Mythos“ klasės modelio srautui, praneša „The Verge“.U.S. News & World Report

Sąmoningas kompromisas

„Anthropic“ atvirai pripažino, kad biologijos filtrai yra sąmoningai konservatyvūs. Bendrovė teigė, kad „Fable 5“ yra pirmasis „Mythos“ klasės modelis, kuris, jų manymu, turi „galimybę piktadariams naudoti jį itin rizikingiems biologiniams tyrimams“, todėl saugiam diegimui buvo būtinas pernelyg atsargus požiūris. Bendrovė teigia, kad dirba mažindama klaidingai teigiamų rezultatų skaičių ir planuoja išplėsti neribotą „Mythos 5“ prieigą platesniam gyvybės mokslų tyrėjų ratui per patikimos prieigos programą.anthropic+1

Iki birželio 22 d. „Fable 5“ lieka įtrauktas be papildomų mokesčių „Pro“, „Max“, „Team“ ir „Enterprise“ prenumeratoriams. Po to prieigai reikės naudojimo kreditų.thenextweb+1

Šaltiniai (27)