Newsletter Subscribe
Enter your email address below and subscribe to our newsletter
[forminator_form id="25163"]

thinkingmachines.ai+1.x.com+1.artificialanalysis.ai+1.Společnost Thinking Machines Lab v pátek 20. listopadu vydala Inkling 2 Mini. Jedná se o model s otevřenými vahami, o kterém firma tvrdí, že je "dostatečně malý pro běh na vašem notebooku", a svou schopnost uvažování získává tím, že část své sítě spustí několikrát pro každý token. Vydání navazuje na Inkling 2 Small. Laboratoř na síti X vtipkovala, že "někteří z vás si mysleli", že tento model "byl s 594 miliardami parametrů příliš velký".thinkingmachines.ai+1
Model je systém typu mixture-of-experts s celkem 26,4 miliardami parametrů, z nichž 3,4 miliardy je aktivních. Při započtení smyček využívá 5,4 miliardy aktivací vah na token. Většina jeho vah byla vytrénována a je nativně nasazena ve formátu NVFP4, což udržuje celkovou stopu na přibližně 20 GB. Je licencován pod Apache 2.0, přijímá textové i obrazové vstupy a podporuje kontextové okno až do 1 milionu tokenů.thinkingmachines.ai+2
Model má 24 vrstev. Středních 12 vrstev běží třikrát na token, zatímco prvních a posledních šest běží jednou. To mu dává 48 logických vrstev postavených z 24 fyzických. Společnost uvádí, že smyčky umožňují modelu "dosáhnout správné odpovědi s menším počtem tokenů", zejména při agentním kódování.huggingface.co+2
Podle laboratoře Inkling 2 Mini vede mezi všemi modely s otevřenými vahami pod 100 miliard parametrů v testech DeepSWE v1.1 (48,2 %) a Vals Index v2.2 (46,5 %). Artificial Analysis mu udělila skóre 20 ve svém Intelligence Indexu, čímž se vyrovnal modelu Qwen3.8 27B při zhruba pětinové hodnotě aktivních parametrů. Firma také uvedla, že je přibližně šestkrát levnější a čtyřikrát rychlejší na úkol než zmíněný model.thinkingmachines.ai+1
Smyčky vyvolávají otázku ohledně dohledu nad AI, protože model může uvažovat interně, aniž by své kroky zapisoval. Laboratoř uvedla, že v tomto měřítku "uvažování myšlenkovým řetězcem" (chain-of-thought) "bude kratší, ale zůstane čitelné". Zároveň vydává výzkumný model s variabilní smyčkou, aby jej mohli otestovat externí výzkumníci. Server Unite.AI poznamenal, že společnost tato zjištění o monitorovatelnosti popisuje jako předběžná.x.com+1
Váhy jsou k dispozici na Hugging Face a model je dostupný na platformě Tinker pro inferenci a doladění. Podpora inference od prvního dne zahrnuje SGLang, vLLM, Ollama a NVIDIA Dynamo, mimo jiné nástroje. Přes Ollama běží na počítačích Mac s minimálně 32 GB RAM. vLLM uvedlo, že podporuje jak hlavní model, tak jeho kontrolní bod s variabilní smyčkou na hardwaru NVIDIA Blackwell, Hopper a DGX Spark.vllm.ai+1
Společnost otevřeně přiznává slabiny modelu. V testech MultiChallenge dosahuje 50,0 % a v ComplexConstraints v1.1 33,4 %, čímž zaostává za Qwen3.8-27B jak v konverzacích, tak v instrukcích s mnoha omezeními. Karta modelu také varuje, že model "může provádět destruktivní akce, jako je mazání nebo přepisování souborů, bez potvrzení". Uživatelům radí, aby "agentní úlohy spouštěli v izolovaném prostředí (sandbox)".thinkingmachines.ai+1