Newsletter Subscribe
Enter your email address below and subscribe to our newsletter
[forminator_form id="25163"]

thinkingmachines.ai+1.x.com+1.artificialanalysis.ai+1.Thinking Machines Lab lanserte fredag 20. november Inkling 2 Mini. Dette er en modell med åpne vekter som selskapet hevder er "liten nok til å kjøre på din bærbare PC", og den henter resonneringsevnen sin fra å kjøre deler av nettverket flere ganger for hvert token. Lanseringen følger etter Inkling 2 Small. Laboratoriet spøkte på X med at "noen av dere trodde" at den modellen "var for stor med 594 milliarder parametere".thinkingmachines.ai+1
Modellen er et mixture-of-experts-system med totalt 26,4 milliarder parametere, hvorav 3,4 milliarder er aktive. Når man teller med løkkene, bruker den 5,4 milliarder vektaktiveringer per token. De fleste vektene er trent og distribuert i NVFP4, noe som holder det totale fotavtrykket på rundt 20 GB. Den er lisensiert under Apache 2.0, aksepterer tekst- og bildeinput, og støtter et kontekstvindu på opptil 1 million tokens.thinkingmachines.ai+2
Modellen har 24 lag. De midterste 12 kjøres tre ganger per token, mens de første og siste seks kjøres én gang. Dette gir 48 logiske lag bygget fra 24 fysiske. Selskapet sier at løkkekjøring lar modellen "nå det riktige svaret med færre tokens", spesielt ved agentbasert koding.huggingface.co+2
Ifølge laboratoriet leder Inkling 2 Mini alle modeller med åpne vekter under 100 milliarder parametere på DeepSWE v1.1, med 48,2 prosent, og på Vals Index v2.2, med 46,5 prosent. Artificial Analysis ga den en score på 20 på sin Intelligence Index, noe som matcher Qwen3.8 27B med omtrent en femtedel så mange aktive parametere. Selskapet opplyste også at den var omtrent seks ganger billigere og fire ganger raskere per oppgave enn den modellen.thinkingmachines.ai+1
Løkkekjøring reiser spørsmål for AI-overvåking, siden en modell kan resonnere internt uten å skrive ned stegene sine. Laboratoriet sa at i denne skalaen blir resonnering gjennom tankerekker "kortere, men forblir lesbar". De slipper også en forskningsmodell med variabel løkkekjøring slik at eksterne forskere kan teste dette. Unite.AI bemerket at selskapet beskriver disse funnene om overvåkbarhet som foreløpige.x.com+1
Vektene ligger på Hugging Face, og modellen er tilgjengelig på Tinker for inferens og finjustering. Støtte for inferens fra dag én dekker SGLang, vLLM, Ollama og NVIDIA Dynamo, blant andre verktøy. Gjennom Ollama kjører den på Mac-maskiner med minst 32 GB RAM. vLLM opplyste at de støtter både hovedmodellen og sjekkpunktet med variabel løkkekjøring på NVIDIA Blackwell, Hopper og DGX Spark-maskinvare.vllm.ai+1
Selskapet er åpent om modellens svakheter. Den scorer 50,0 prosent på MultiChallenge og 33,4 prosent på ComplexConstraints v1.1, bak Qwen3.8-27B på både chat over flere omganger og instruksjoner med mange begrensninger. Modellkortet advarer også om at modellen "kan utføre destruktive handlinger, som å slette eller overskrive filer, uten bekreftelse". De råder brukere til å "kjøre agentbaserte arbeidsbelastninger i en sandkasse".thinkingmachines.ai+1