Baidu veröffentlicht offenes ERNIE 5.5 Flash Base-Modell

Baidu ↘ 2.31% hat am Donnerstag, den 5. November, ERNIE-5.5-Flash-Base veröffentlicht. Laut der offiziellen Mitteilung des Unternehmens handelt es sich um ein offenes "Sparse Mixture-of-Experts"-Sprachmodell mit insgesamt 280 Milliarden Parametern, von denen 14 Milliarden pro Token aktiviert werden. Die Gewichte entsprechen dem Checkpoint am Ende des Vortrainings, vor jeglichem weiteren Training. Baidu positioniert das Modell als gemeinsame Ausgangsbasis für Domänenanpassung, Instruktions-Tuning und Forschung im Bereich des verstärkenden Lernens. Das Unternehmen teilte mit, dass eine chatfähige Version noch folgen wird: "Dieses Basismodell ist nur ein Ausgangspunkt. Das nachbearbeitete ERNIE 5.5 Flash wird folgen", schrieb das ERNIE-Team.ernie.baidu.com

Auf Effizienz ausgelegt

Baidu gibt an, das Modell von Grund auf mit 33,5 Billionen Token bei einem Trainingskontext von bis zu 128.000 Token trainiert zu haben. Es unterstützt einen Kontext von 1 Million Token für Feinabstimmung und Inferenz. Die Modellkarte listet 43 Schichten auf. 37 davon verwenden ein komprimiertes Attention-Schema, das einen Cache-Eintrag pro 128-Token-Block speichert, und fast jede Schicht leitet Anfragen an 10 von 512 Experten sowie einen geteilten Experten weiter, berichtete Unite.AI. Baidu erklärte, dass "Effizienz von Anfang an ein Designziel war" und dass das Modell und das Trainingssystem gemeinsam entwickelt wurden.unite.ai+1

In eigenen Tests von Baidu übertraf das Modell konkurrierende Basis-Checkpoints wie DeepSeek-V4-Flash-Base, Hy3-preview-Base und MiMo-V2.5-Base bei den meisten Benchmarks. Es erreichte 93,3 Punkte bei MMLU und 82,3 bei HumanEval+, lag jedoch bei FullStackBench und InfiniteBench zurück. Bisher wurden keine unabhängigen Bewertungen veröffentlicht.ernie.baidu.com+1

Verfügbarkeit und Hardware

Die Gewichte sind auf Hugging Face in den Formaten FP8 und BF16-Safetensors verfügbar. Entwickler können das Modell mit vLLM und SGLang über die Completions-API bereitstellen. Baidu hat zudem ein vLLM-Plugin veröffentlicht, das das nachbearbeitete ERNIE-5.5-Flash als "in Kürze verfügbar" listet. Der Betrieb erfordert leistungsstarke Hardware. Allein der FP8-Checkpoint ist etwa 288 GB groß, und das Rezept von NVIDIA ↘ 7.81% für die Feinabstimmung des gesamten Modells nutzt 16 Knoten mit jeweils vier GB300-GPUs.huggingface.co+3

Eine restriktive Lizenz

Das Modell wird unter der benutzerdefinierten ERNIE 5.5 Flash Base Model License Agreement v1.0 von Baidu veröffentlicht. Die Rechte gelten nur innerhalb eines "Territoriums", das alle Gebiete außer der Europäischen Union, Großbritannien und Südkorea umfasst. Die nicht-kommerzielle Nutzung ist kostenlos. Kommerzielle Nutzer mit einem jährlichen Umsatz von bis zu 50 Millionen US-Dollar müssen Baidu eine einmalige Mitteilung senden und "Powered by ERNIE" anzeigen, während größere Unternehmen eine schriftliche Genehmigung von Baidu benötigen. Die Lizenz untersagt zudem die Nutzung des Modells oder seiner Ausgaben zur Verbesserung unabhängiger KI-Systeme, was die Destillation einschränkt. Eine Analyse merkt derzeit an, dass "offen" hier eher beschreibt, ob die Gewichte heruntergeladen werden können, und nicht, was Nutzer damit tun dürfen.huggingface.co+2