Newsletter Subscribe
Enter your email address below and subscribe to our newsletter
[forminator_form id="25163"]

thinkingmachines.ai+1.x.com+1.artificialanalysis.ai+1.Thinking Machines Lab hat am Freitag, den 20. November, Inkling 2 Mini veröffentlicht. Es handelt sich um ein Modell mit offenen Gewichten, das laut dem Unternehmen "klein genug ist, um auf Ihrem Laptop zu laufen", und seine Schlussfolgerungsfähigkeit aus der mehrfachen Ausführung eines Teils seines Netzwerks für jedes Token bezieht. Die Veröffentlichung folgt auf Inkling 2 Small. Das Labor scherzte auf X, dass "einige von euch dachten", jenes Modell "sei mit 594 Milliarden Parametern zu groß".thinkingmachines.ai+1
Das Modell ist ein Mixture-of-Experts-System mit insgesamt 26,4 Milliarden Parametern, von denen 3,4 Milliarden aktiv sind. Unter Einbeziehung der Schleifen verwendet es 5,4 Milliarden Gewichtsaktivierungen pro Token. Die meisten Gewichte wurden nativ in NVFP4 trainiert und bereitgestellt, was den gesamten Speicherbedarf bei etwa 20 GB hält. Es ist unter Apache 2.0 lizenziert, akzeptiert Text- und Bildeingaben und unterstützt ein Kontextfenster von bis zu 1 Million Tokens.thinkingmachines.ai+2
Das Modell verfügt über 24 Schichten. Die mittleren 12 laufen dreimal pro Token, während die ersten und letzten sechs einmal laufen. Das ergibt 48 logische Schichten, die aus 24 physischen aufgebaut sind. Das Unternehmen gibt an, dass die Schleifenbildung es dem Modell ermöglicht, "mit weniger Tokens zur richtigen Antwort zu gelangen", insbesondere bei der agentischen Programmierung.huggingface.co+2
Laut dem Labor führt Inkling 2 Mini bei DeepSWE v1.1 mit 48,2 Prozent und bei Vals Index v2.2 mit 46,5 Prozent alle Modelle mit offenen Gewichten unter 100 Milliarden Parametern an. Artificial Analysis gab ihm einen Wert von 20 auf seinem Intelligence Index, was Qwen3.8 27B bei etwa einem Fünftel der aktiven Parameter entspricht. Das Unternehmen gab zudem an, dass es pro Aufgabe etwa sechsmal günstiger und viermal schneller sei als jenes Modell.thinkingmachines.ai+1
Die Schleifenbildung wirft Fragen für die KI-Überwachung auf, da ein Modell intern schlussfolgern kann, ohne seine Schritte aufzuschreiben. Das Labor erklärte, dass in diesem Maßstab das schrittweise Denken "kürzer wird, aber lesbar bleibt". Sie veröffentlichen auch ein Forschungsmodell mit variabler Schleifenbildung, damit externe Forscher dies testen können. Unite.AI merkte an, dass das Unternehmen diese Erkenntnisse zur Überwachbarkeit als vorläufig beschreibt.x.com+1
Die Gewichte sind auf Hugging Face verfügbar, und das Modell steht auf Tinker für Inferenz und Feinabstimmung bereit. Die Unterstützung für Inferenz ab dem ersten Tag umfasst unter anderem SGLang, vLLM, Ollama und NVIDIA Dynamo. Über Ollama läuft es auf Macs mit mindestens 32 GB RAM. vLLM gab an, dass es sowohl das Hauptmodell als auch dessen Prüfpunkt für variable Schleifen auf NVIDIA Blackwell, Hopper und DGX Spark-Hardware unterstützt.vllm.ai+1
Das Unternehmen geht offen mit den Schwächen des Modells um. Es erreicht 50,0 Prozent bei MultiChallenge und 33,4 Prozent bei ComplexConstraints v1.1 und liegt damit sowohl bei Chats über mehrere Runden als auch bei Anweisungen mit vielen Einschränkungen hinter Qwen3.8-27B. Die Modellkarte warnt zudem, dass das Modell "destruktive Aktionen ausführen kann, wie das Löschen oder Überschreiben von Dateien, ohne Bestätigung". Es rät Benutzern, "agentische Arbeitslasten in einer Sandbox auszuführen".thinkingmachines.ai+1