Anthropic-ის Claude Fable 5 კრიტიკის ქარცეცხლში მოექცა ბიოლოგიის საბაზისო კითხვების დაბლოკვის გამო

Anthropic-მა სამშაბათს გამოუშვა Claude Fable 5, მისი პირველი საჯაროდ ხელმისაწვდომი Mythos-კლასის მოდელი, თუმცა უსაფრთხოების კლასიფიკატორები მონიშნულ მოთხოვნებს ჩუმად მიმართავენ უფრო ძველ Opus 4.8-ზე.techcrunch+1
The Verge იტყობინება, რომ მოდელმა უარი თქვა თივის ცხელების, ანტიბიოტიკორეზისტენტობისა და ასთმის წამლების ახსნაზე, ხოლო Reddit-ზე კიბოს მკვლევარმა განაცხადა, რომ ყველა მისი მოთხოვნა დაიბლოკა.The Verge+1
Anthropic-მა ფართო ფილტრებს უწოდა შეგნებული კომპრომისი ბიოლოგიური იარაღის ბოროტად გამოყენების თავიდან ასაცილებლად და განაცხადა, რომ მუშაობს ცრუ დადებითი შედეგების შესამცირებლად.The Verge+1

Anthropic-მა სამშაბათს გამოუშვა Claude Fable 5, მისი პირველი საჯაროდ ხელმისაწვდომი Mythos-კლასის AI მოდელი, თუმცა სისტემის ავტომატური უსაფრთხოების კლასიფიკატორები უკვე აღიზიანებენ მომხმარებლებს, რომლებიც ამბობენ, რომ დამცავი ბარიერები ბლოკავს რუტინულ კითხვებს ბიოლოგიის, მედიცინისა და კიბერუსაფრთხოების შესახებ — თემები, რომლებშიც მოდელი, მარკეტინგის მიხედვით, განსაკუთრებით ძლიერი უნდა ყოფილიყო.

ფართო ფილტრები, ვიწრო წვდომა

Fable 5 იზიარებს თავის ძირითად არქიტექტურას Claude Mythos 5-თან, შეზღუდულ მოდელთან, რომელიც ხელმისაწვდომია მხოლოდ შემოწმებული პარტნიორებისთვის. მთავარი განსხვავება არის კლასიფიკატორების ფენა, რომელიც აკონტროლებს მოთხოვნებს კიბერუსაფრთხოების, ბიოლოგიის, ქიმიისა და მოდელის დისტილაციის შესახებ. როდესაც ეს ფილტრები აქტიურდება, პასუხები ჩუმად გადამისამართდება Claude Opus 4.8-ზე, Anthropic-ის წინა საუკეთესო მოდელზე. Anthropic აცხადებს, რომ ეს სარეზერვო სისტემა საშუალოდ სესიების 5%-ზე ნაკლებ შემთხვევაში ირთვება.techcrunch+2

თუმცა, ეს საშუალო მაჩვენებელი უფრო მწვავე პრობლემას ფარავს. The Verge-მა ოთხშაბათს გაავრცელა ინფორმაცია, რომ Fable-მა უარი თქვა ბიოლოგიის ისეთი საბაზისო კითხვების პასუხზე, რომლებსაც საშუალო სკოლის მოსწავლე გაუმკლავდებოდა, მათ შორის კითხვები თივის ცხელების, ანტიბიოტიკორეზისტენტობისა და ასთმის წამლების მოქმედების შესახებ. Reddit-ზე კიბოს მკვლევარმა განაცხადა, რომ რადგან მათ პროფილში ნახსენებია ტერმინები, როგორიცაა „პროსტატის კიბოს უჯრედების ხაზები“, ყველა მოთხოვნა — მათ შორის მისალმებები და ამინდის შესახებ კითხვები — გადამისამართდება Opus 4.8-ზე. Anthropic-ის სპიკერმა პარულ მაჰეშვარიმ The Verge-ს განუცხადა, რომ კომპანიამ „ეს კომპრომისი იმიტომ გააკეთა, რომ მომხმარებლებმა მოდელის შესაძლებლობებით უფრო ადრე ისარგებლონ რისკების გარეშე“.reddit+1

ინდუსტრიის რეაქცია

Business Insider-მა აღნიშნა, რომ შეზღუდვებმა ანალიტიკოსებისა და ადრეული მომხმარებლების კრიტიკა გამოიწვია. პატრიკ მურჰედმა, Moor Insights & Strategy-ის აღმასრულებელმა დირექტორმა, X-ზე დაწერა, რომ Fable 5-მა უარი თქვა დახმარებოდა შემოსავლების ანალიზის თეზისებსა და საბჭოს პრეზენტაციაში, რადგან დავალებები „ზედმეტად სახიფათოდ“ მიიჩნია. „ეს არის ის მოდელი, რომლისაც ყველას გვეშინია და რომელიც Anthropic-ს 1 ტრილიონი დოლარის ღირებულების ხდის?“, — დაწერა მან.Business Insider Africa

ამასობაში, Microsoft , როგორც იტყობინებიან, ზღუდავს თანამშრომლების მიერ Fable 5-ის გამოყენებას Anthropic-ის სავალდებულო 30-დღიანი მონაცემთა შენახვის პოლიტიკის გამო, რომელიც ვრცელდება Mythos-კლასის მოდელის მთელ ტრაფიკზე, იტყობინება The Verge.U.S. News & World Report

შეგნებული კომპრომისი

Anthropic-მა გამჭვირვალედ განაცხადა, რომ ბიოლოგიის ფილტრები განზრახ კონსერვატიულია. კომპანიამ აღნიშნა, რომ Fable 5 არის პირველი Mythos-კლასის მოდელი, რომელსაც, მათი აზრით, „აქვს შესაძლებლობა, ბოროტმა მსახიობებმა გამოიყენონ მაღალი რისკის ბიოლოგიური კვლევებისთვის“ და რომ უსაფრთხო დანერგვისთვის საჭირო იყო ზედმეტად ფრთხილი მიდგომა. კომპანია აცხადებს, რომ მუშაობს ცრუ დადებითი შედეგების შესამცირებლად და გეგმავს Mythos 5-ზე შეუზღუდავი წვდომის გაფართოებას სიცოცხლის შემსწავლელი მეცნიერებების მკვლევრებისთვის სანდო წვდომის პროგრამის მეშვეობით.anthropic+1

22 ივნისამდე Fable 5 რჩება Pro, Max, Team და Enterprise აბონენტებისთვის დამატებითი საფასურის გარეშე. ამის შემდეგ წვდომა მოითხოვს გამოყენების კრედიტებს.thenextweb+1

წყაროები (27)