Newsletter Subscribe
Enter your email address below and subscribe to our newsletter
[forminator_form id="25163"]

thinkingmachines.ai+1.x.com+1.artificialanalysis.ai+1.„Thinking Machines Lab“ penktadienį, lapkričio 20 d., išleido „Inkling 2 Mini“. Tai atviro svorio modelis, kurį bendrovė apibūdina kaip „pakankamai mažą, kad veiktų jūsų nešiojamajame kompiuteryje“, o jo gebėjimas mąstyti kyla iš to, kad kiekvienam žetonui dalis jo tinklo apdorojama kelis kartus. Šis išleidimas seka po „Inkling 2 Small“. Laboratorija „X“ tinkle pajuokavo, kad „kai kurie iš jūsų manė“, jog tas modelis „buvo per didelis su savo 594 mlrd. parametrų“.thinkingmachines.ai+1
Modelis yra „mišrių ekspertų“ sistema, turinti 26,4 mlrd. bendrų parametrų ir 3,4 mlrd. aktyvių. Įskaitant ciklus, jis naudoja 5,4 mlrd. svorio aktyvacijų vienam žetonui. Didžioji dalis svorių buvo apmokyti ir yra diegiami naudojant NVFP4 formatą, todėl bendras užimamas dydis yra apie 20 GB. Jis licencijuotas pagal „Apache 2.0“, priima teksto ir vaizdo įvestis bei palaiko iki 1 mln. žetonų konteksto langą.thinkingmachines.ai+2
Modelis turi 24 sluoksnius. Viduriniai 12 sluoksnių kiekvienam žetonui vykdomi tris kartus, o pirmieji ir paskutiniai šeši – po vieną kartą. Tai suteikia 48 loginius sluoksnius, sukurtus iš 24 fizinių. Bendrovė teigia, kad cikliškumas leidžia modeliui „pasiekti teisingą atsakymą su mažiau žetonų“, ypač atliekant agentines programavimo užduotis.huggingface.co+2
Pasak laboratorijos, „Inkling 2 Mini“ lenkia visus atviro svorio modelius, turinčius mažiau nei 100 mlrd. parametrų, „DeepSWE v1.1“ (48,2%) ir „Vals Index v2.2“ (46,5%) testuose. „Artificial Analysis“ savo intelekto indekse jam skyrė 20 balų, prilygindama „Qwen3.8 27B“, nors modelis naudoja penktadalį aktyvių parametrų. Bendrovė taip pat nurodė, kad jis yra apie šešis kartus pigesnis ir keturis kartus greitesnis už minėtą modelį.thinkingmachines.ai+1
Cikliškumas kelia klausimų dėl DI priežiūros, nes modelis gali mąstyti viduje, neužrašydamas savo žingsnių. Laboratorija teigė, kad tokio masto modeliuose „minčių grandinės“ mąstymas „tampa trumpesnis, bet išlieka įskaitomas“. Jie taip pat išleidžia kintamo ciklo tyrimų modelį, kad išoriniai tyrėjai galėtų tai išbandyti. „Unite.AI“ pažymėjo, kad bendrovė šias stebėsenos išvadas apibūdina kaip preliminarias.x.com+1
Svorio parametrai yra „Hugging Face“ platformoje, o modelis prieinamas „Tinker“ sistemoje išvadoms ir tobulinimui. Pirmąją dieną išvadų palaikymas apima „SGLang“, „vLLM“, „Ollama“ ir „NVIDIA“ „Dynamo“ bei kitus įrankius. Per „Ollama“ jis veikia „Mac“ kompiuteriuose, turinčiuose bent 32 GB RAM. „vLLM“ teigė, kad palaiko tiek pagrindinį modelį, tiek jo kintamo ciklo kontrolinį tašką „NVIDIA Blackwell“, „Hopper“ ir „DGX Spark“ techninėje įrangoje.vllm.ai+1
Bendrovė atvirai kalba apie modelio trūkumus. Jis surenka 50,0% „MultiChallenge“ ir 33,4% „ComplexConstraints v1.1“ testuose, atsilikdamas nuo „Qwen3.8-27B“ tiek pokalbių, tiek instrukcijų su daugybe apribojimų srityse. Modelio apraše taip pat įspėjama, kad jis „gali atlikti destruktyvius veiksmus, pavyzdžiui, ištrinti ar perrašyti failus be patvirtinimo“. Vartotojams patariama „agentines užduotis vykdyti smėlio dėžės (sandbox) aplinkoje“.thinkingmachines.ai+1