Newsletter Subscribe
Enter your email address below and subscribe to our newsletter
[forminator_form id="25163"]

thinkingmachines.ai+1.x.com+1.artificialanalysis.ai+1.Thinking Machines Lab julkaisi perjantaina 20. marraskuuta Inkling 2 Mini -mallin. Kyseessä on avoimen painoarvon malli, jonka yhtiö kertoo olevan "tarpeeksi pieni kannettavalla tietokoneella ajettavaksi". Se saa päättelykykynsä suorittamalla osan verkostaan useita kertoja jokaisen tokenin kohdalla. Julkaisu seuraa Inkling 2 Small -mallia. Laboratorio vitsaili X-palvelussa, että "jotkut teistä luulivat" kyseisen mallin "olevan liian suuri 594 miljardin parametrin koossa".thinkingmachines.ai+1
Malli on asiantuntijasekoitusjärjestelmä, jossa on yhteensä 26,4 miljardia parametria ja 3,4 miljardia aktiivista parametria. Silmukat mukaan lukien se käyttää 5,4 miljardia painoarvoaktivaatiota per token. Suurin osa sen painoarvoista on koulutettu ja otettu käyttöön natiivisti NVFP4-muodossa, mikä pitää sen kokonaisjalanjäljen noin 20 gigatavussa. Se on lisensoitu Apache 2.0 -lisenssillä, hyväksyy teksti- ja kuvasyötteitä ja tukee jopa miljoonan tokenin konteksti-ikkunaa.thinkingmachines.ai+2
Mallissa on 24 kerrosta. Keskimmäiset 12 kerrosta suoritetaan kolmesti per token, kun taas ensimmäiset ja viimeiset kuusi suoritetaan kerran. Tämä antaa sille 48 loogista kerrosta, jotka on rakennettu 24 fyysisestä kerroksesta. Yhtiön mukaan silmukointi antaa mallille mahdollisuuden "päätyä oikeaan vastaukseen vähemmillä tokeneilla", erityisesti agenttipohjaisessa koodauksessa.huggingface.co+2
Laboratorion mukaan Inkling 2 Mini johtaa kaikkia alle 100 miljardin parametrin avoimen painoarvon malleja DeepSWE v1.1 -testissä 48,2 prosentin tuloksella ja Vals Index v2.2 -testissä 46,5 prosentin tuloksella. Artificial Analysis antoi sille 20 pistettä Intelligence Index -vertailussaan, mikä vastaa Qwen3.8 27B -mallia noin viidesosalla aktiivisten parametrien määrästä. Yritys totesi myös, että se on noin kuusi kertaa halvempi ja neljä kertaa nopeampi per tehtävä kuin kyseinen malli.thinkingmachines.ai+1
Silmukointi herättää kysymyksiä tekoälyn valvonnasta, sillä malli voi päättelyä suorittaessaan toimia sisäisesti kirjoittamatta välivaiheitaan ylös. Laboratorio totesi, että tässä mittakaavassa päättelyketju "lyhenee, mutta pysyy luettavana". He julkaisevat myös muuttuvan silmukan tutkimusmallin, jotta ulkopuoliset tutkijat voivat testata tätä. Unite.AI huomautti, että yhtiö kuvailee näitä valvottavuutta koskevia havaintoja alustaviksi.x.com+1
Painoarvot löytyvät Hugging Facesta, ja malli on saatavilla Tinker-alustalla päättelyä ja hienosäätöä varten. Ensimmäisen päivän päättelytuki kattaa SGLang-, vLLM-, Ollama- ja NVIDIA Dynamo -työkalut muiden ohella. Ollaman kautta se toimii Mac-tietokoneilla, joissa on vähintään 32 gigatavua RAM-muistia. vLLM ilmoitti tukevansa sekä päämallia että sen muuttuvan silmukan tarkistuspistettä NVIDIA Blackwell-, Hopper- ja DGX Spark -laitteistoilla.vllm.ai+1
Yhtiö on avoin mallin heikkouksista. Se saa 50,0 % MultiChallenge-testissä ja 33,4 % ComplexConstraints v1.1 -testissä, jääden Qwen3.8 27B -mallin taakse sekä monivaiheisessa keskustelussa että monia rajoitteita sisältävissä ohjeissa. Mallikortti varoittaa myös, että malli "voi suorittaa tuhoisia toimia, kuten tiedostojen poistamista tai ylikirjoittamista, ilman vahvistusta". Se neuvoo käyttäjiä "ajamaan agenttipohjaisia työkuormia hiekkalaatikkoympäristössä".thinkingmachines.ai+1