Inkling-Small : le modèle à 276 milliards de paramètres qui dépasse son professeur quatre fois plus grand

À titre de comparaison, son prédécesseur Inkling totalise 975 milliards de paramètres et en active 41 milliards par jeton. Inkling-Small représente donc environ un quart de la taille totale de son aîné, tout en l’égalant ou en le dépassant sur plusieurs évaluations importantes .

Le modèle accepte les entrées texte, image et audio, dispose d’une fenêtre de contexte pouvant atteindre 1 million de jetons et permet de régler l’intensité de son raisonnement afin d’arbitrer entre vitesse et profondeur d’analyse .

Des résultats impressionnants — mais pas partout

Inkling-Small prend l’avantage sur Inkling dans trois domaines particulièrement exigeants : le raisonnement général, la programmation assistée par agent et les connaissances scientifiques. En revanche, le grand modèle reste supérieur pour le rappel factuel et les mathématiques de compétition .

Sources :

Ce que révèlent les scores

• Raisonnement : Inkling-Small obtient 31,6 % à Humanity’s Last Exam, contre 29,7 % pour Inkling. Thinking Machines Lab indique que l’avantage se maintient quel que soit le budget de raisonnement utilisé .
• Programmation avec agents : le modèle atteint 80,2 % à SWE-Bench Verified, dans une configuration avec environnement bash et trajectoire de 256 000 jetons, soit 2,6 points de plus qu’Inkling .
• Sciences : son score de 89,5 % à GPQA Diamond dépasse celui d’Inkling, établi à 87,2 % .
• Mathématiques : Inkling conserve l’avantage sur AIME 2026, avec 97,1 % contre 95,5 %.
• Rappel factuel : l’écart est beaucoup plus marqué sur SimpleQA Verified : 20,6 % pour Inkling-Small contre 43,9 % pour Inkling. Cela illustre le compromis possible entre l’optimisation du raisonnement et la mémorisation de faits .
• Évaluation tierce : avec un score de 40 à l’Artificial Analysis Intelligence Index v4.1, Inkling-Small reste à un point seulement d’Inkling, qui obtient 41 .

Autrement dit, le modèle « Small » n’est pas systématiquement meilleur. Il paraît surtout calibré pour les tâches où il faut raisonner, suivre des instructions complexes ou agir dans un environnement logiciel — plutôt que pour répondre à des questions factuelles simples avec une grande fiabilité.

Une architecture MoE qui n’active qu’une fraction du modèle

Inkling-Small repose sur un Transformer MoE sparse de 42 couches. Pour chaque jeton, le système sélectionne 6 experts parmi 256, auxquels s’ajoutent 2 experts partagés . Il utilise également une attention hybride, combinant attention complète et fenêtres glissantes, ainsi qu’un mécanisme permettant de contrôler l’effort de réflexion .

Le principe d’un modèle MoE est de ne pas mobiliser tous ses paramètres pour chaque étape de génération. Inkling-Small conserve ainsi la capacité potentielle de ses 276 milliards de paramètres, mais son coût d’activation se rapproche davantage de celui d’un modèle dense de 12 milliards de paramètres.

L’architecture appartient à la même famille que celle d’Inkling, avec toutefois moins d’experts au total — 256, contre environ 576 pour le modèle original — et moins d’experts actifs par couche . Pour les développeurs, cela signifie une inférence moins lourde sans renoncer à une capacité globale de modèle très importante.

Le pari du post-entraînement en deux étapes

La performance d’Inkling-Small ne repose pas uniquement sur sa taille. Thinking Machines Lab a utilisé une méthode de post-entraînement en deux temps .

1. Distillation on-policy depuis Inkling. Un précédent point de contrôle d’Inkling-Small a généré ses propres trajectoires, tandis qu’Inkling lui fournissait une supervision dense au niveau de chaque jeton. Cette méthode, appelée on-policy distillation (OPD), combine les exemples réalistes produits par l’élève avec les indications détaillées du modèle enseignant .
2. Deux semaines supplémentaires de renforcement axé sur les agents. L’équipe a ensuite poursuivi l’entraînement par renforcement sur des tâches de programmation agentique. Cette phase a contribué à faire passer Inkling-Small devant Inkling sur plusieurs tests de raisonnement et de code .

Le résultat est notable : après seulement deux semaines supplémentaires de renforcement, l’élève dépasse son professeur sur plusieurs évaluations. Cette observation rejoint les travaux récents sur la généralisation « du faible vers le fort » grâce à la distillation on-policy .

Une empreinte mémoire réduite d’environ trois fois

Le principal intérêt pratique d’Inkling-Small est peut-être matériel. Selon la fiche officielle du modèle, les besoins minimaux sont les suivants :

Le checkpoint BF16 d’Inkling nécessitait environ 1,9 To de VRAM cumulée, tandis que sa version quantifiée NVFP4 demandait environ 600 Go . Inkling-Small réduit donc fortement la barrière matérielle, même si ses besoins restent ceux d’une infrastructure de centre de données et non d’un ordinateur personnel classique.

Le modèle prend en charge les formats numériques BF16, MXFP8 et NVFP4 .

Ce que cela change pour l’adaptation du modèle

• Affinage complet en BF16 : il faut au minimum 4 GPU B300 ou 8 GPU H200. L’investissement reste considérable, mais cette configuration peut entrer dans les capacités d’équipes de taille intermédiaire bien financées ou de laboratoires universitaires disposant d’un accès à un cluster .
• Affinage LoRA en NVFP4 : deux GPU H200 suffisent selon la configuration officielle, ce qui réduit nettement le coût de personnalisation . LoRA — pour Low-Rank Adaptation — consiste à entraîner de petits adaptateurs plutôt que de modifier l’ensemble des poids du modèle.
• Inférence en NVFP4 : le mode W4A4 peut fonctionner sur un seul GPU B300, à condition de disposer d’une architecture SM100 ou ultérieure .

C’est cette combinaison entre poids ouverts, quantification et architecture MoE qui rend Inkling-Small plus réaliste à expérimenter pour des équipes qui ne pouvaient pas envisager Inkling et ses quelque 1,9 To de VRAM en BF16.

Disponibilité et tarif d’utilisation

Inkling-Small est proposé sous plusieurs formes :

• Poids complets : disponibles sur Hugging Face sous licence Apache 2.0 ;
• Tinker Playground : accès conversationnel avec entrées texte, image et audio ;
• API Tinker : personnalisation du modèle avec LoRA ;
• Tarification de la sortie via Tinker : 1,20 dollar par million de jetons .

La disponibilité des poids complets distingue cette version de la préversion présentée lors du lancement initial d’Inkling, qui attendait encore la fin de ses tests .

Le contexte autour de Thinking Machines Lab

Thinking Machines Lab a été fondé par Mira Murati, ancienne directrice technique d’OpenAI, après son départ de l’entreprise en 2024. John Schulman, ancien cofondateur d’OpenAI et membre clé de l’équipe à l’origine des travaux sur le RLHF, figure également parmi les cofondateurs .

Lilian Weng, qui faisait initialement partie de l’équipe fondatrice, a depuis quitté Thinking Machines Lab et rejoint de nouveau OpenAI. Le noyau des cofondateurs restant est donc composé de Mira Murati et de John Schulman .

Verdict : plus pratique, mais pas universel

Inkling-Small défend une idée simple : un modèle peut être nettement plus petit sans être nettement moins performant, à condition de bien répartir sa capacité et de soigner son post-entraînement.

Sur le raisonnement, la programmation agentique et les connaissances scientifiques, il dépasse même Inkling sur les évaluations communiquées. En contrepartie, il perd beaucoup de terrain sur le rappel factuel et cède légèrement en mathématiques de compétition.

Pour les développeurs qui souhaitent créer des assistants de code, des agents capables d’utiliser des outils ou des applications multimodales, Inkling-Small apparaît donc comme l’option la plus pragmatique de la gamme Thinking Machines Lab en juillet 2026. Ses besoins restent élevés — environ 600 Go en BF16 ou 180 Go en NVFP4 — mais ils sont nettement plus accessibles que les quelque 1,9 To requis par Inkling.