Newsletter Subscribe
Enter your email address below and subscribe to our newsletter
[forminator_form id="25163"]

ernie.baidu.com+1.ernie.baidu.com.huggingface.co+1.Baidu -მ ხუთშაბათს, 5 ნოემბერს, ERNIE-5.5-Flash-Base გამოუშვა. კომპანიის ოფიციალური განცხადების თანახმად, ეს არის ღია წონის ენობრივი მოდელი 280 მილიარდი პარამეტრით, საიდანაც 14 მილიარდი აქტიურდება თითო ტოკენზე. წონები წარმოადგენს წინასწარი წვრთნის ბოლო ეტაპის შედეგს. Baidu მას სთავაზობს როგორც საწყის წერტილს დომენური ადაპტაციის, ინსტრუქციების დახვეწისა და განმტკიცების სწავლის კვლევებისთვის. კომპანია აცხადებს, რომ ჩატისთვის მზა ვერსია ჯერ კიდევ წინ არის: "ეს საბაზისო მოდელი მხოლოდ დასაწყისია. პოსტ-წვრთნის გავლილი ERNIE 5.5 Flash მოგვიანებით გამოვა," წერს ERNIE-ს გუნდი.ernie.baidu.com
Baidu-ს თქმით, მოდელი ნულიდან გაიწვრთნა 33.5 ტრილიონ ტოკენზე, 128,000 ტოკენამდე კონტექსტით და მხარს უჭერს 1 მილიონი ტოკენის კონტექსტს დახვეწისა და დასკვნისთვის. მოდელის ბარათში მითითებულია 43 ფენა. Unite.AI-ის ცნობით, 37 მათგანი იყენებს შეკუმშული ყურადღების სქემას, ხოლო თითქმის ყველა ფენა უკავშირდება 512 ექსპერტიდან 10-ს და ერთ საერთო ექსპერტს. Baidu-მ აღნიშნა, რომ "ეფექტურობა თავიდანვე დიზაინის მიზანი იყო".unite.ai+1
Baidu-ს საკუთარ ტესტებში მოდელმა აჯობა კონკურენტებს, როგორიცაა DeepSeek-V4-Flash-Base, უმეტეს ბენჩმარკებში. მან MMLU-ზე 93.3, ხოლო HumanEval+-ზე 82.3 ქულა დააგროვა. დამოუკიდებელი შეფასება ჯერჯერობით არ გამოქვეყნებულა.ernie.baidu.com+1
წონები განთავსებულია Hugging Face-ზე FP8 და BF16 ფორმატებში. დეველოპერებს შეუძლიათ მოდელის გაშვება vLLM და SGLang-ის საშუალებით. გაშვება მოითხოვს მძლავრ აპარატურას: მხოლოდ FP8 ჩეკპოინტი დაახლოებით 288 გიგაბაიტია, ხოლო NVIDIA-ს სრული მოდელის დახვეწის რეცეპტი იყენებს 16 კვანძს, თითოეულში ოთხი GB300 GPU-ით.huggingface.co+3
მოდელი ვრცელდება Baidu-ს საბაჟო ლიცენზიით. უფლებები ვრცელდება მხოლოდ იმ ტერიტორიაზე, რომელიც მოიცავს ყველაფერს ევროკავშირის, დიდი ბრიტანეთისა და სამხრეთ კორეის გარდა. არაკომერციული გამოყენება უფასოა. კომერციულმა მომხმარებლებმა, რომელთა წლიური შემოსავალი 50 მილიონ დოლარამდეა, უნდა გააგზავნონ შეტყობინება Baidu-სთან, ხოლო უფრო მსხვილმა კომპანიებმა უნდა მიიღონ წინასწარი წერილობითი ავტორიზაცია. ლიცენზია ასევე კრძალავს მოდელის გამოყენებას სხვა AI სისტემების გასაუმჯობესებლად, რაც ზღუდავს დისტილაციას.huggingface.co+2