Anthropicin Claude Fable 5 sai kritiikkiä biologian peruskysymysten estämisestä

Anthropic julkaisi tiistaina Claude Fable 5:n, joka on sen ensimmäinen julkisesti saatavilla oleva Mythos-luokan malli, mutta turvallisuusluokittelijat ohjaavat liputetut kyselyt hiljaisesti vanhemmalle Opus 4.8 -mallille.techcrunch+1
The Verge raportoi, että malli kieltäytyi selittämästä heinänuhaa, antibioottiresistenssiä ja astmalääkitystä, kun taas eräs syöpätutkija kertoi Redditissä jokaisen kyselyn tulevan estetyksi.The Verge+1
Anthropic kutsui laajoja suodattimia harkituksi kompromissiksi biologisten aseiden väärinkäytön estämiseksi ja kertoi työskentelevänsä väärien positiivisten tulosten vähentämiseksi.The Verge+1

Anthropic julkaisi tiistaina Claude Fable 5:n, joka on sen ensimmäinen julkisesti saatavilla oleva Mythos-luokan tekoälymalli, mutta järjestelmän automatisoidut turvallisuusluokittelijat turhauttavat jo käyttäjiä. Käyttäjien mukaan suojakaiteet estävät rutiininomaisia kysymyksiä biologiasta, lääketieteestä ja kyberturvallisuudesta — aiheista, joiden osalta mallia markkinoitiin erityisen taitavana.

Laajat suodattimet, kapea pääsy

Fable 5 jakaa taustalla olevan arkkitehtuurinsa Claude Mythos 5:n kanssa, joka on vain tarkistetuille kumppaneille tarkoitettu rajoitettu malli. Keskeinen ero on luokittelijakerros, joka valvoo kyberturvallisuuteen, biologiaan, kemiaan ja mallin tislaamiseen liittyviä pyyntöjä. Kun suodatin aktivoituu, vastaukset ohjataan hiljaisesti Anthropicin aiemmalle huippumallille, Claude Opus 4.8:lle. Anthropicin mukaan varajärjestelmä aktivoituu keskimäärin alle 5 prosentissa istunnoista.techcrunch+2

Mutta tämä keskiarvo peittää alleen vakavamman ongelman. The Verge raportoi keskiviikkona, että Fable kieltäytyi vastaamasta biologian peruskysymyksiin, joista lukiolainenkin selviytyisi, mukaan lukien kyselyt heinänuhasta, antibioottiresistenssistä ja astmalääkkeiden toimintaperiaatteista. Eräs syöpätutkija kertoi Redditissä, että koska hänen tiliprofiilinsa mainitsee termejä kuten "eturauhassyövän solulinjat", jokainen kysely — mukaan lukien tervehdykset ja sääkysymykset — ohjataan uudelleen Opus 4.8:lle. Anthropicin tiedottaja Paruul Maheshwary kertoi The Vergelle, että yritys "teki tämän kompromissin, jotta asiakkaat hyötyisivät mallin ominaisuuksista aiemmin ilman riskejä".reddit+1

Alan reaktio

Business Insider huomautti, että rajoitukset ovat herättäneet kritiikkiä analyytikoilta ja varhaisilta käyttäjiltä. Moor Insights & Strategyn toimitusjohtaja Patrick Moorhead kirjoitti X:ssä, että Fable 5 kieltäytyi auttamasta tulosanalyysin puheenaiheiden ja hallituksen esityksen kanssa, koska se piti tehtäviä "liian vaarallisina". "Onko tämä se malli, jota me kaikki pelkäämme ja joka tekee Anthropicista biljoonan dollarin arvoisen?" hän kirjoitti.Business Insider Africa

Samaan aikaan Microsoft rajoittaa tiettävästi työntekijöidensä pääsyä Fable 5:een huolien vuoksi, jotka liittyvät Anthropicin pakolliseen 30 päivän tietojen säilytyskäytäntöön kaikelle Mythos-luokan malliliikenteelle, kertoo The Verge.U.S. News & World Report

Harkittu kompromissi

Anthropic on ollut avoin siitä, että biologian suodattimet ovat tarkoituksellisen konservatiivisia. Yritys totesi, että Fable 5 on ensimmäinen Mythos-luokan malli, jonka se uskoo sisältävän "mahdollisuuden, että pahantahtoiset toimijat voisivat käyttää sitä erittäin riskialttiiseen biologiseen tutkimukseen", ja että liian varovainen lähestymistapa oli välttämätön turvallisen käyttöönoton kannalta. Yritys kertoo työskentelevänsä väärien positiivisten tulosten vähentämiseksi ja suunnittelee laajentavansa rajoittamatonta Mythos 5 -pääsyä laajemmalle biotieteiden tutkijajoukolle luotettavan pääsyohjelman kautta.anthropic+1

Kesäkuun 22. päivään asti Fable 5 sisältyy ilman lisäkustannuksia Pro-, Max-, Team- ja Enterprise-tilaajille. Tämän jälkeen pääsy vaatii käyttöluottoja.thenextweb+1

Lähteet (27)