Anthropic biðst afsökunar á því að hafa leynilega takmarkað Claude Fable 5

Anthropic viðurkenndi að hafa „gert ranga málamiðlun“ með öryggistakmörkunum á nýútgefnu Claude Fable 5 líkani sínu, og sneri við umdeildri stefnu sem leynilega dró úr afköstum gervigreindarinnar þegar hún greindi notendur sem unnu að þróun gervigreindar á jaðarsviðum. Afsökunarbeiðnin, sem send var til WIRED á þriðjudag, kom aðeins tveimur dögum eftir að útgáfa líkansins þann 9. júní vakti hörð viðbrögð frá vísindamönnum, forriturum og sérfræðingum í gervigreindarstefnu.

Faldar takmarkanir vekja hörð viðbrögð

„Við erum að breyta öryggisráðstöfunum Fable 5 fyrir þróun á stórum tungumálalíkönum til að gera þær sýnilegar,“ sagði Anthropic í yfirlýsingu sinni. „Við gerðum ranga málamiðlun og við biðjumst afsökunar á því að hafa ekki náð réttu jafnvægi.“simonwillison+1

Deilan snerist um upplýsingar sem grafnar voru í 319 blaðsíðna kerfiskorti Fable 5 sem leiddu í ljós að líkanið myndi hljóðlega draga úr svörum sínum þegar það greindi beiðnir tengdar nýjustu gervigreindarþróun, svo sem byggingu þjálfunarinnviða fyrir stór tungumálalíkön. Ólíkt öðrum takmörkunum Fable 5 varðandi netöryggi og líffræði — sem beina notendum opinskátt yfir á minna öfluga Claude Opus 4.8 með sýnilegri tilkynningu — virkaði öryggisráðstöfunin fyrir gervigreindarþróun ósýnilega, með því að nota tækni eins og breytingar á leiðbeiningum og stýrivektora til að takmarka virkni án þess að upplýsa notendur.fortune+1

Víðtækari öryggisráðstafanir sæta gagnrýni

Claude Fable 5 er fyrsta „Mythos-flokks“ líkan Anthropic sem er aðgengilegt almenningi, og deilir sama undirliggjandi arkitektúr og takmarkaða Claude Mythos 5 líkanið, en er vafið inn í öryggisflokkara sem grípa inn í fyrirspurnir sem snerta netöryggi, líffræði, efnafræði og eimingu líkana. Þegar þær eru virkjaðar eru svörin meðhöndluð af Claude Opus 4.8 í staðinn. Anthropic sagði að varaleiðin virkist í færri en 5 prósentum lota.techcrunch+2

En netöryggisfræðingar og líffræðingar kvörtuðu yfir því að flokkararnir væru of víðtækir og merktu lögmæta vinnu. Anthropic viðurkenndi sjálft að öryggisráðstöfunin fyrir líffræði og efnafræði væri of víðtæk og sagði að áætlað væri að þrengja hana.lushbinary+2

Breytingar væntanlegar í þessari viku

Samkvæmt endurskoðaðri stefnu munu merktar beiðnir nú sjáanlega færast yfir á Opus 4.8 í öllum takmörkuðum flokkum. Í API-inu munu merktar beiðnir skila ástæðu fyrir höfnun þeirra. „Þú munt sjá þetta í hvert skipti sem það gerist,“ sagði talsmaður Anthropic.moneycontrol+1

Fyrirtækið setti takmarkanirnar fram sem nauðsynlegar til að koma í veg fyrir að andstæðingar notuðu öflugasta líkan þess til að grafa undan tæknilegum yfirburðum Bandaríkjanna í jaðarflögum og þjálfunarhugbúnaði, og til að framfylgja þjónustuskilmálum sínum sem banna notkun á Claude til að byggja upp samkeppnishæf gervigreindarkerfi. Þátturinn hefur engu að síður magnað umræðuna um hvar línan liggur á milli ábyrgrar dreifingar og þess að lama gagnsemi líkans — spenna sem Anthropic mun líklega standa frammi fyrir aftur þegar það undirbýr sig fyrir boðað hlutafjárútboð.fortune+1