Thinking Machines lance Inkling-Small, qui égale son modèle phare avec un quart de sa taille

Thinking Machines Lab a lancé jeudi Inkling-Small, un modèle multimodal à poids ouverts qui égale ou surpasse son prédécesseur Inkling tout en utilisant environ un quart des paramètres, une avancée qui réduit considérablement les besoins en calcul pour faire fonctionner un système d'IA de pointe.

Un modèle plus petit qui rivalise avec les grands

Inkling-Small utilise une architecture de mélange d'experts avec 276 milliards de paramètres au total et 12 milliards activés par inférence, contre 975 milliards au total et 41 milliards de paramètres actifs pour Inkling. Le modèle accepte des entrées texte, image et audio et prend en charge une fenêtre de contexte allant jusqu'à un million de jetons.siliconrepublic+1

Selon Thinking Machines, le modèle égale ou surpasse Inkling dans les tâches de raisonnement et de codage agentique. Au test Humanity's Last Exam, Inkling-Small a obtenu un score supérieur à 31 pour cent contre 29,7 pour cent pour Inkling, et sur SWE-Bench Verified, il a dépassé les 80 pour cent. Artificial Analysis lui a attribué un score de 40 sur son indice d'intelligence, soit seulement un point de moins que les 41 d'Inkling.artificialanalysis+1

L'entreprise a obtenu ces résultats grâce à un processus de post-entraînement en deux étapes : une distillation sur politique utilisant Inkling comme modèle enseignant, suivie de deux semaines d'apprentissage par renforcement axé sur les agents.kucoin

Abaisser la barrière à l'entrée

Alors que l'Inkling original nécessitait un minimum de deux téraoctets de VRAM agrégée pour exécuter les points de contrôle BF16, Inkling-Small réduit considérablement ces exigences. Le modèle est disponible aux formats BF16 et NVFP4 sur Hugging Face et via le service Tinker de Thinking Machines.gigazine+1

"Les clients de Tinker ont pu constater par eux-mêmes que le bon modèle affiné peut surpasser les modèles fermés sur diverses tâches, et ce, plus rapidement et à moindre coût", a déclaré l'entreprise. L'échelle réduite rend le réglage fin LoRA et le réglage fin complet des paramètres réalisables pour les équipes de taille moyenne, une capacité auparavant limitée aux grandes entreprises.kucoin+1

Turbulences en coulisses

Le lancement intervient dans un contexte de remaniement continu de la direction de la startup soutenue par Nvidia ↘ 1.47%. Lilian Weng, l'une des six cofondateurs originaux, a annoncé son départ le 26 juillet pour des raisons de santé, son dernier jour étant le 29 juillet. Elle a depuis rejoint OpenAI pour diriger les travaux sur l'auto-amélioration récursive. Seuls Mira Murati et John Schulman restent désormais de l'équipe fondatrice.kucoin+3

Thinking Machines a lancé son premier modèle, Inkling, le 15 juillet. Moins de deux semaines plus tard, elle a expédié un successeur qui le surpasse, un rythme qui suggère, comme l'a formulé l'entreprise, une "ligne de production" pour générer des modèles plutôt qu'un effort ponctuel.kucoin+1