Newsletter Subscribe
Enter your email address below and subscribe to our newsletter
[forminator_form id="25163"]

thinkingmachines.ai+1.x.com+1.artificialanalysis.ai+1.Thinking Machines Lab släppte Inkling 2 Mini fredagen den 20 november. Det är en modell med öppna vikter som företaget säger är "tillräckligt liten för att köras på din bärbara dator", och den får sin resonemangsförmåga genom att köra delar av sitt nätverk flera gånger för varje token. Lanseringen följer på Inkling 2 Small. Labbet skämtade på X om att "vissa av er trodde" att den modellen "var för stor med 594 miljarder parametrar".thinkingmachines.ai+1
Modellen är ett mixture-of-experts-system med totalt 26,4 miljarder parametrar, varav 3,4 miljarder är aktiva. Om man räknar med looparna använder den 5,4 miljarder viktaktiveringar per token. De flesta av dess vikter tränades och distribueras inbyggt i NVFP4, vilket håller dess totala fotavtryck på cirka 20 GB. Den är licensierad under Apache 2.0, accepterar text- och bildinmatning och stöder ett kontextfönster på upp till 1 miljon tokens.thinkingmachines.ai+2
Modellen har 24 lager. De mellersta 12 körs tre gånger per token, medan de första och sista sex körs en gång. Det ger 48 logiska lager byggda av 24 fysiska. Företaget säger att loopning låter modellen "nå rätt svar med färre tokens", särskilt vid agentbaserad kodning.huggingface.co+2
Enligt labbet leder Inkling 2 Mini alla modeller med öppna vikter under 100 miljarder parametrar på DeepSWE v1.1, med 48,2 procent, och på Vals Index v2.2, med 46,5 procent. Artificial Analysis gav den 20 poäng på sitt Intelligence Index, vilket matchar Qwen3.8 27B med ungefär en femtedel så många aktiva parametrar. Företaget uppgav också att den var ungefär sex gånger billigare och fyra gånger snabbare per uppgift än den modellen.thinkingmachines.ai+1
Loopning väcker frågor för AI-tillsyn, eftersom en modell kan resonera internt utan att skriva ner sina steg. Labbet sa att i denna skala blir resonemang genom tankekedjor "kortare men förblir läsbara". De släpper också en forskningsmodell med variabel loopning så att externa forskare kan testa detta. Unite.AI noterade att företaget beskriver dessa fynd om övervakningsbarhet som preliminära.x.com+1
Vikterna finns på Hugging Face, och modellen är tillgänglig på Tinker för inferens och finjustering. Stöd för inferens från dag ett täcker SGLang, vLLM, Ollama och NVIDIA Dynamo, bland andra verktyg. Genom Ollama körs den på Mac-datorer med minst 32 GB RAM. vLLM uppgav att de stöder både huvudmodellen och dess kontrollpunkt för variabel loopning på NVIDIA Blackwell, Hopper och DGX Spark-hårdvara.vllm.ai+1
Företaget är öppet med modellens svagheter. Den får 50,0 procent på MultiChallenge och 33,4 procent på ComplexConstraints v1.1, vilket är efter Qwen3.8-27B i både chatt över flera turer och instruktioner med många begränsningar. Modellkortet varnar också för att modellen "kan vidta destruktiva åtgärder, såsom att radera eller skriva över filer, utan bekräftelse". De råder användare att "köra agentbaserade arbetslaster i en sandlåda".thinkingmachines.ai+1