Thinking Machines kynnir Inkling-Small, sem jafnast á við flaggskipið á fjórðungi stærðarinnar

Thinking Machines Lab gaf á fimmtudaginn út Inkling-Small, fjölþætt opið líkan sem jafnast á við eða skarar fram úr forvera sínum Inkling á meðan það notar um fjórðung af færibreytunum, sem er skref sem lækkar verulega kröfur um tölvuafl til að keyra gervigreindarkerfi í fremstu röð.

Minna líkan sem skilar miklu

Inkling-Small notar arkitektúr sem byggir á blöndu sérfræðinga (Mixture-of-Experts) með 276 milljörðum heildarfæribreyta og 12 milljörðum virkum í hverri ályktun, samanborið við 975 milljarða heildarfæribreytur Inkling og 41 milljarð virkra færibreyta. Líkanið tekur við texta, myndum og hljóðinntaki og styður samhengisglugga upp á allt að eina milljón tákna.siliconrepublic+1

Samkvæmt Thinking Machines jafnast líkanið á við eða skarar fram úr Inkling í röksemdafærslu og verkefnum tengdum kóðun. Í Humanity's Last Exam skoraði Inkling-Small yfir 31 prósent samanborið við 29,7 prósent hjá Inkling, og í SWE-Bench Verified fór það yfir 80 prósent. Artificial Analysis gaf því 40 í greindarvísitölu sinni, aðeins einu stigi undir 41 hjá Inkling.artificialanalysis+1

Fyrirtækið náði þessum árangri með tveggja þrepa eftirþjálfunarferli: eimingu með Inkling sem kennaralíkani, fylgt eftir af tveggja vikna styrkingarnámi með áherslu á umboðsmenn.kucoin

Lækkun á aðgangshindrunum

Þar sem upprunalega Inkling krafðist að lágmarki tveggja terabæta af samanlögðu VRAM til að keyra BF16 eftirlitsstaði, lækkar Inkling-Small þær kröfur verulega. Líkanið er fáanlegt í bæði BF16 og NVFP4 sniðum á Hugging Face og í gegnum Tinker þjónustu Thinking Machines.gigazine+1

"Tinker viðskiptavinir hafa séð af eigin raun að rétt fínstillt líkan getur skilað betri árangri en lokuð líkön í ýmsum verkefnum, og gert það hraðar og ódýrara," sagði fyrirtækið. Minni stærðin gerir LoRA og fulla fínstillingu á færibreytum mögulega fyrir meðalstór teymi, sem var áður takmarkað við stórfyrirtæki.kucoin+1

Órói bak við tjöldin

Útgáfan kemur í kjölfar viðvarandi óróa í stjórnendateymi sprotafyrirtækisins sem nýtur stuðnings Nvidia ↗ 2.93%. Lilian Weng, einn af sex upprunalegu meðstofnendum, tilkynnti um brotthvarf sitt 26. júlí vegna heilsufarsástæðna, og síðasti dagur hennar var 29. júlí. Hún hefur síðan snúið aftur til OpenAI til að leiða vinnu við endurkvæma sjálfsbót. Aðeins Mira Murati og John Schulman eru nú eftir af stofnendateyminu.kucoin+3

Thinking Machines setti sitt fyrsta líkan, Inkling, á markað 15. júlí. Innan tveggja vikna sendi það frá sér eftirmann sem skarar fram úr honum, hraði sem bendir til þess, eins og fyrirtækið orðaði það, að um sé að ræða "framleiðslulínu" fyrir gerð líkana fremur en stakt átak.kucoin+1