Anthropic-ի Claude Fable 5-ը քննադատության է ենթարկվել կենսաբանության վերաբերյալ հիմնարար հարցերը արգելափակելու համար

Anthropic-ը երեքշաբթի օրը գործարկեց Claude Fable 5-ը՝ իր առաջին հանրությանը հասանելի Mythos դասի AI մոդելը, սակայն համակարգի ավտոմատացված անվտանգության դասակարգիչներն արդեն հիասթափեցնում են օգտատերերին, ովքեր ասում են, որ պաշտպանիչ մեխանիզմները արգելափակում են կենսաբանության, բժշկության և կիբերանվտանգության վերաբերյալ սովորական հարցերը՝ թեմաներ, որոնցում մոդելը, ըստ մարքեթինգային հայտարարությունների, պետք է գերազանցեր:

Լայն ֆիլտրեր, նեղ հասանելիություն

Fable 5-ը կիսում է իր հիմքում ընկած ճարտարապետությունը Claude Mythos 5-ի հետ՝ սահմանափակ մոդել, որը հասանելի է միայն ստուգված գործընկերներին: Հիմնական տարբերությունը դասակարգիչների շերտն է, որը վերահսկում է կիբերանվտանգության, կենսաբանության, քիմիայի և մոդելի թորման վերաբերյալ հարցումները: Երբ դրանք ակտիվանում են, պատասխանները լռելյայն վերահասցեավորվում են Claude Opus 4.8-ին՝ Anthropic-ի նախորդ լավագույն մոդելին: Anthropic-ը հայտնում է, որ այս պահեստային համակարգը միջինում աշխատում է նստաշրջանների 5 տոկոսից պակաս դեպքերում:techcrunch+2

Սակայն այդ միջին ցուցանիշը քողարկում է ավելի սուր խնդիր: The Verge-ը չորեքշաբթի օրը հայտնեց, որ Fable-ը հրաժարվել է պատասխանել կենսաբանության այնպիսի հիմնարար հարցերի, որոնց կկարողանար պատասխանել ավագ դպրոցի աշակերտը, ներառյալ հարցեր խոտի տենդի, հակաբիոտիկների նկատմամբ կայունության և ասթմայի դեղամիջոցների աշխատանքի մասին: Reddit-ում քաղցկեղի հետազոտողը նշել է, որ քանի որ իրենց պրոֆիլում նշված են «շագանակագեղձի քաղցկեղի բջջային գծեր» տերմինները, յուրաքանչյուր հարցում՝ ներառյալ ողջույնները և եղանակի մասին հարցերը, վերահասցեավորվում է Opus 4.8-ին: Anthropic-ի խոսնակ Պարուլ Մահեշվարին The Verge-ին ասել է, որ ընկերությունը «գնացել է այս փոխզիջմանը, որպեսզի հաճախորդները ավելի շուտ օգտվեն մոդելի հնարավորություններից՝ առանց ռիսկերի»:reddit+1

Արդյունաբերության արձագանքը

Business Insider-ը նշել է, որ սահմանափակումները քննադատության են արժանացել վերլուծաբանների և վաղ օգտատերերի կողմից: Moor Insights & Strategy-ի գործադիր տնօրեն Պատրիկ Մուրհեդը X-ում գրել է, որ Fable 5-ը հրաժարվել է օգնել եկամուտների վերլուծության և խորհրդի ներկայացման հարցում, քանի որ առաջադրանքները համարել է «չափազանց վտանգավոր»: «Սա՞ է այն մոդելը, որից մենք բոլորս վախենում ենք և որը Anthropic-ին դարձնում է 1 տրիլիոն դոլար արժողությամբ ընկերություն», — գրել է նա:Business Insider Africa

Միևնույն ժամանակ, Microsoft-ը ↗ 0.56%, ըստ հաղորդումների, սահմանափակում է աշխատակիցների կողմից Fable 5-ի օգտագործումը՝ Anthropic-ի տվյալների պահպանման 30-օրյա պարտադիր քաղաքականության վերաբերյալ մտահոգությունների պատճառով, որը տարածվում է Mythos դասի մոդելի ողջ տրաֆիկի վրա, հայտնում է The Verge-ը:U.S. News & World Report

Կանխամտածված փոխզիջում

Anthropic-ը թափանցիկ կերպով հայտարարել է, որ կենսաբանության ֆիլտրերը դիտավորյալ պահպանողական են: Ընկերությունը նշել է, որ Fable 5-ը Mythos դասի առաջին մոդելն է, որն, իրենց կարծիքով, «ունի հնարավորություն, որ չարամիտ դերակատարները օգտագործեն բարձր ռիսկային կենսաբանական հետազոտությունների համար», և որ անվտանգ տեղակայման համար անհրաժեշտ էր չափազանց զգուշավոր մոտեցում: Ընկերությունը հայտնում է, որ աշխատում է կեղծ դրական արդյունքները նվազեցնելու ուղղությամբ և ծրագրում է ընդլայնել Mythos 5-ի անսահմանափակ հասանելիությունը կենսաբանական գիտությունների հետազոտողների համար՝ վստահելի հասանելիության ծրագրի միջոցով:anthropic+1

Մինչև հունիսի 22-ը Fable 5-ը Pro, Max, Team և Enterprise բաժանորդների համար մնում է առանց հավելյալ վճարի: Դրանից հետո հասանելիությունը կպահանջի օգտագործման կրեդիտներ:thenextweb+1