Meta uvolnila Muse Glimmer: 30miliardový AI model pro domácí počítače

Společnost Meta ↘ 0.86% vydala Muse Glimmer, model umělé inteligence s otevřenými vahami a 30 miliardami parametrů, který může běžet zcela offline na běžném hardwaru. Jde o významný krok v úsilí společnosti zpřístupnit výkonnou AI bez nutnosti cloudových předplatných nebo připojení k internetu.

AI model pro lokální provoz

Muse Glimmer je vydán pod licencí Apache 2.0 a je dostupný na platformě Hugging Face, kde si jej může kdokoli zdarma stáhnout, upravit a nasadit. Model přijímá textové i obrazové vstupy, podporuje více než 100 jazyků a zvládá kontextová okna přesahující 131 000 tokenů.infoq+1

Při plné přesnosti by model vyžadoval přibližně 64 GB video paměti, což je daleko za možnostmi běžného hardwaru. Meta to řeší pomocí 4bitové dynamické kvantizace, která model komprimuje do dvou variant: 32GB verze, která ztrácí pouze 0,2 % přesnosti, a 17GB verze, která se vejde do 24 GB VRAM se ztrátou přesnosti kolem 1 %. Kompatibilní hardware zahrnuje karty Nvidia RTX 5090, RTX 4090, RTX 3090 nebo čipy Apple Silicon Max.tech.yahoo+1

Systém spekulativního dekódování nazvaný DFlash propojuje lehký „návrhový“ model s hlavní sítí a navrhuje několik tokenů najednou pro paralelní validaci. Na kartě RTX 5090 to zvyšuje rychlost generování ze 74,9 tokenů za sekundu na 233,4, což představuje zhruba 3,1násobné zvýšení propustnosti.infoq+1

Agenti a výkonnostní testy

Muse Glimmer je vytvořen pro autonomní provádění vícekrokových úkolů. Pokud API volání nebo příkaz v terminálu selže, model diagnostikuje chybu a místo zastavení zkusí alternativní postupy. Specializovaný kodér vnímání s 1,8 miliardou parametrů zpracovává snímky obrazovky, diagramy a dokumentaci přímo během pracovních postupů.infoq

V rámci standardizovaných testů, jako jsou SWE-Bench, DeepSearch QA a MCP-Atlas, Muse Glimmer překonává konkurenční modely, jako jsou Google Gemma 4 31B a Alibaba Qwen 3.6 27B, v plánování a spolehlivosti nástrojů, ačkoliv zaostává v úlohách ovládání plochy. Model byl destilován z většího modelu Meta Muse Spark prostřednictvím vícefázového procesu kombinujícího logitovou destilaci, trénink na dlouhém kontextu a ladění pomocí posilovaného učení.tech.yahoo+1

Zuckerbergova strategie otevřené AI

Vydání přichází spolu s širším strategickým tlakem generálního ředitele Marka Zuckerberga, který tento týden zveřejnil rozsáhlý manifest, v němž toto úsilí označil za „superinteligenci pro všechny“. Server Axios uvedl, že modely Mety s otevřenými vahami jsou navrženy tak, aby „tlačily na špičku zdola“ a poskytovaly konkurenceschopný výkon za výrazně nižší náklady než proprietární alternativy.axios

Tento obrat následuje po neúspěšném uvedení modelu Llama 4 a následné restrukturalizaci, která zahrnovala investici 14,3 miliardy dolarů do společnosti Scale AI. Přesto zaměstnanec Mety pro Axios uvedl, že firma se „stále cítí pozadu za špičkovými laboratořemi ve výkonu a vývoji modelů“.axios

Muse Glimmer je nyní k dispozici prostřednictvím Hugging Face, Ollama, LM Studio a dalších lokálních inferenčních rámců.tech.yahoo+1