Newsletter Subscribe
Enter your email address below and subscribe to our newsletter
[forminator_form id="25163"]
All voices matter
Baidu, açık ağırlıklı ERNIE 5.5 Flash Base modelini yayınladı
- Baidu , Perşembe günü 280 milyar parametreli ve token başına 14 milyarı aktif olan, uzmanların seyrek karışımı (MoE) mimarisine sahip ERNIE-5.5-Flash-Base modelini yayınladı
ernie.baidu.com+1. - Baidu, modelin 33.5 trilyon token üzerinde eğitildiğini ve sohbet odaklı ERNIE 5.5 Flash sürümünün daha sonra geleceğini belirtti
ernie.baidu.com. - Lisans; AB, Birleşik Krallık ve Güney Kore'de kullanımı yasaklıyor, büyük ticari kullanıcılar için onay şartı koşuyor ve diğer yapay zeka sistemlerine damıtmayı (distillation) kısıtlıyor
huggingface.co+1.
Baidu , 5 Kasım Perşembe günü ERNIE-5.5-Flash-Base modelini yayınladı. Şirketin resmi açıklamasına göre bu, toplam 280 milyar parametreye sahip, token başına 14 milyarının aktif olduğu açık ağırlıklı bir dil modelidir. Ağırlıklar, ön eğitimin sonunda alınan kontrol noktasıdır. Baidu, bunu alan adaptasyonu, talimat ayarlama ve pekiştirmeli öğrenme araştırmaları için ortak bir başlangıç noktası olarak sunuyor. Şirket, sohbet etmeye hazır bir sürümün yolda olduğunu belirtiyor: "Bu temel model sadece bir başlangıç noktası. Eğitim sonrası tamamlanmış ERNIE 5.5 Flash daha sonra gelecek," diyor ERNIE ekibi.ernie.baidu.com
Verimlilik için tasarlandı
Baidu, modelin 33.5 trilyon token üzerinde, 128.000 tokene kadar eğitim bağlamıyla sıfırdan eğitildiğini ve ince ayar ile çıkarım için 1 milyon tokenlik bağlamı desteklediğini söylüyor. Model kartında 43 katman listeleniyor. Unite.AI'nin bildirdiğine göre, bunların 37'si 128 tokenlik blok başına bir önbellek girişi depolayan sıkıştırılmış dikkat şeması kullanıyor ve neredeyse her katman 512 uzmandan 10'una ve bir ortak uzmana yönlendirme yapıyor. Baidu, "verimliliğin en başından beri bir tasarım hedefi olduğunu" ifade etti.unite.ai+1
Baidu'nun kendi testlerinde model, çoğu kıyaslamada rakip temel kontrol noktaları olan DeepSeek-V4-Flash-Base, Hy3-preview-Base ve MiMo-V2.5-Base'i geride bıraktı. MMLU'da 93.3 ve HumanEval+'da 82.3 puan aldı, ancak FullStackBench ve InfiniteBench'te geride kaldı. Henüz bağımsız bir değerlendirme yayınlanmadı.ernie.baidu.com+1
Erişilebilirlik ve donanım
Ağırlıklar Hugging Face üzerinde FP8 ve BF16 safetensors formatlarında bulunuyor. Geliştiriciler modeli vLLM ve SGLang aracılığıyla sunabilirler. Çalıştırmak ağır donanım gerektiriyor. Sadece FP8 kontrol noktası yaklaşık 288 GB boyutunda ve NVIDIA'nın tam model ince ayar tarifi, her birinde dört adet GB300 GPU bulunan 16 düğüm kullanıyor.huggingface.co+3
Kısıtlayıcı bir lisans
Model, Baidu'nun özel ERNIE 5.5 Flash Base Model Lisans Sözleşmesi v1.0 kapsamında yayınlandı. Haklar, Avrupa Birliği, Birleşik Krallık ve Güney Kore hariç her yeri kapsayan bir "Bölge" içinde geçerlidir. Ticari olmayan kullanım ücretsizdir. Yıllık 50 milyon dolara kadar ilgili geliri olan ticari kullanıcılar Baidu'ya tek seferlik bir bildirim göndermeli ve "Powered by ERNIE" ibaresini görüntülemelidir; daha büyük şirketler ise Baidu'nun önceden yazılı iznini almalıdır. Lisans ayrıca modelin veya çıktılarının ilişkisiz yapay zeka sistemlerini iyileştirmek için kullanılmasını yasaklıyor, bu da damıtmayı kısıtlıyor.huggingface.co+2
Kaynaklar (21)
- 1 ERNIE 5.5 Flash Base ernie.baidu.com
- 2 ERNIE-5.5-Flash-Base: 280B open weights, tight licence www.orcarouter.ai
- 3 LICENSE · baidu/ERNIE-5.5-Flash-Base at main huggingface.co
- 4 Baidu Releases ERNIE 5.5 Flash Base for Further Training www.unite.ai
- 5 Baidu huggingface.co
- 6 GitHub - baidu/vLLM-ERNIE: vLLM-based inference plugin for the open-source ERNIE models. github.com
- 7 Can You Run ERNIE 5.5 Flash Base Locally? 288 GB of FP8 and ... modelfit.io
- 8 Baidu open-sources ERNIE 5.5 Flash Base, a 280B model with 14B active www.techcityauthority.com
- 9 Baidu open-sourced Wenxin 5.5 Flash, with a total parameter of 280 billion www.chaincatcher.com
- 10 ERNIE 5.5 Flash Base: Local VRAM and Hardware Fit www.madebyagents.com
- 11 baidu/ERNIE-5.5-Flash-Base at main huggingface.co
- 12 Models – Hugging Face huggingface.co
- 13 Reportedly: Baidu open-sources ERNIE-5.5-Flash-Base, a 280B-parameter MoE model with 14B active parameters aigc.news
- 14 ERNIE-5.5-Flash vs GLM-5.3 Flash: MIT vs custom licence www.orcarouter.ai
- 15 ERNIE 5.5 Flash Base 开源- 前沿快讯 linux.do
- 16 ERNIE 5.5 Flash Base Model Release tldr.tech
- 17 Baidu releases ERNIE 5.5 Flash Base with a $50M commercial line in the fine print runtimewire.com
- 18 Explainers - mlllm.io mlllm.io
- 19 Baidu Drops ERNIE 5.5 Flash, a Raw 280B Open Checkpoint Beating DeepSeek | AlphaSignal alphasignal.ai
- 20 Baidu released ERNIE 5.5 Flash Base daily.dev
- 21 Baidu open-sources ERNIE 5.5 Flash Base in a race to cheap inference startupfortune.com
