Newsletter Subscribe
Enter your email address below and subscribe to our newsletter
[forminator_form id="25163"]
All voices matter
Baidu julkaisi avoimen ERNIE 5.5 Flash Base -mallin
- Baidu julkaisi torstaina ERNIE-5.5-Flash-Base-mallin, joka on harva asiantuntijoiden sekoitusmalli (sparse mixture-of-experts). Siinä on 280 miljardia parametria, joista 14 miljardia on aktiivisia per token
ernie.baidu.com+1. - Baidu kertoo esikouluttaneensa mallin 33,5 biljoonalla tokenilla ja julkaisevansa myöhemmin chat-valmiin ERNIE 5.5 Flash -version
ernie.baidu.com. - Lisenssi kieltää käytön EU:ssa, Britanniassa ja Etelä-Koreassa, vaatii hyväksynnän suurilta kaupallisilta käyttäjiltä ja rajoittaa tislausta muihin tekoälyjärjestelmiin
huggingface.co+1.
Baidu julkaisi ERNIE-5.5-Flash-Base-mallin torstaina 5. marraskuuta. Kyseessä on avoimen painoarvon harva asiantuntijoiden sekoitusmalli (sparse mixture-of-experts), jossa on yhteensä 280 miljardia parametria. Yhtiön virallisen julkaisun mukaan niistä 14 miljardia aktivoituu per token. Painoarvot ovat esikoulutuksen lopusta otettu tarkistuspiste ennen mitään välivaiheen tai jälkikoulutuksen vaiheita. Baidu markkinoi sitä jaettuna lähtökohtana toimialakohtaiseen mukauttamiseen, ohjeiden hienosäätöön ja vahvistusoppimisen tutkimukseen. Yhtiön mukaan chat-valmis versio on vielä tulossa: "Tämä perusmalli on vasta lähtöpiste. Jälkikoulutettu ERNIE 5.5 Flash seuraa perässä", ERNIE-tiimi kirjoitti.ernie.baidu.com
Suunniteltu tehokkuus edellä
Baidu kertoo esikouluttaneensa mallin alusta alkaen 33,5 biljoonalla tokenilla, ja sen koulutuskonteksti on jopa 128 000 tokenia. Se tukee miljoonan tokenin kontekstia hienosäätöä ja päättelyä varten. Mallikortti listaa 43 kerrosta. Unite.AI:n raportin mukaan 37 niistä käyttää tiivistettyä huomiomekanismia, joka tallentaa yhden välimuistimerkinnän per 128 tokenin lohko, ja lähes jokainen kerros ohjautuu 10:lle 512 asiantuntijasta sekä yhdelle jaetulle asiantuntijalle. Baidu totesi, että "tehokkuus oli suunnittelun tavoite alusta alkaen" ja että se suunnitteli mallin ja sen koulutusjärjestelmän yhdessä.unite.ai+1
Baidun omissa testeissä malli voitti kilpailevat perusmallien tarkistuspisteet DeepSeek-V4-Flash-Base, Hy3-preview-Base ja MiMo-V2.5-Base useimmissa vertailuissa. Se sai 93,3 pistettä MMLU-testissä ja 82,3 pistettä HumanEval+-testissä, mutta jäi jälkeen FullStackBench- ja InfiniteBench-testeissä. Riippumattomia arvioita ei ole toistaiseksi julkaistu.ernie.baidu.com+1
Saatavuus ja laitteisto
Painoarvot ovat saatavilla Hugging Facessa FP8- ja BF16-safetensors-muodoissa. Kehittäjät voivat käyttää mallia vLLM:n ja SGLang:n kautta completions API:n avulla, ja Baidu on julkaissut vLLM-liitännäisen, joka listaa jälkikoulutetun ERNIE-5.5-Flash-mallin "tulossa pian" -tilaan. Sen ajaminen vaatii raskasta laitteistoa. Pelkkä FP8-tarkistuspiste on noin 288 gigatavua, ja NVIDIAn koko mallin hienosäätöresepti käyttää 16 solmua, joissa on kussakin neljä GB300-grafiikkasuoritinta.huggingface.co+3
Rajoittava lisenssi
Malli on julkaistu Baidun mukautetun ERNIE 5.5 Flash Base Model License Agreement v1.0 -lisenssisopimuksen alaisena. Sen oikeudet pätevät vain "alueella", joka kattaa kaikkialla muualla paitsi Euroopan unionissa, Britanniassa ja Etelä-Koreassa. Ei-kaupallinen käyttö on ilmaista. Kaupallisten käyttäjien, joiden vuotuinen liikevaihto on enintään 50 miljoonaa dollaria, on lähetettävä Baidulle kertaluonteinen ilmoitus ja näytettävä "Powered by ERNIE" -merkintä, kun taas suuremmat yritykset tarvitsevat Baidun kirjallisen ennakkosuostumuksen. Lisenssi kieltää myös mallin tai sen tuotosten käyttämisen muiden tekoälyjärjestelmien parantamiseen, mikä rajoittaa tislausta. Eräs analyysi huomauttaa, että "avoin" kuvaa tässä tapauksessa vain sitä, voiko painoarvot ladata, eikä sitä, mitä käyttäjät saavat niillä tehdä.huggingface.co+2
Lähteet (21)
- 1 ERNIE 5.5 Flash Base ernie.baidu.com
- 2 ERNIE-5.5-Flash-Base: 280B open weights, tight licence www.orcarouter.ai
- 3 LICENSE · baidu/ERNIE-5.5-Flash-Base at main huggingface.co
- 4 Baidu Releases ERNIE 5.5 Flash Base for Further Training www.unite.ai
- 5 Baidu huggingface.co
- 6 GitHub - baidu/vLLM-ERNIE: vLLM-based inference plugin for the open-source ERNIE models. github.com
- 7 Can You Run ERNIE 5.5 Flash Base Locally? 288 GB of FP8 and ... modelfit.io
- 8 Baidu open-sources ERNIE 5.5 Flash Base, a 280B model with 14B active www.techcityauthority.com
- 9 Baidu open-sourced Wenxin 5.5 Flash, with a total parameter of 280 billion www.chaincatcher.com
- 10 ERNIE 5.5 Flash Base: Local VRAM and Hardware Fit www.madebyagents.com
- 11 baidu/ERNIE-5.5-Flash-Base at main huggingface.co
- 12 Models – Hugging Face huggingface.co
- 13 Reportedly: Baidu open-sources ERNIE-5.5-Flash-Base, a 280B-parameter MoE model with 14B active parameters aigc.news
- 14 ERNIE-5.5-Flash vs GLM-5.3 Flash: MIT vs custom licence www.orcarouter.ai
- 15 ERNIE 5.5 Flash Base 开源- 前沿快讯 linux.do
- 16 ERNIE 5.5 Flash Base Model Release tldr.tech
- 17 Baidu releases ERNIE 5.5 Flash Base with a $50M commercial line in the fine print runtimewire.com
- 18 Explainers - mlllm.io mlllm.io
- 19 Baidu Drops ERNIE 5.5 Flash, a Raw 280B Open Checkpoint Beating DeepSeek | AlphaSignal alphasignal.ai
- 20 Baidu released ERNIE 5.5 Flash Base daily.dev
- 21 Baidu open-sources ERNIE 5.5 Flash Base in a race to cheap inference startupfortune.com
