Inkling-Small: modelo aberto da Thinking Machines supera seu professor 4 vezes maior em raciocínio e código

Na prática, ele tem cerca de um quarto do tamanho total do Inkling, modelo anterior da empresa, que conta com 975 bilhões de parâmetros e ativa 41 bilhões por token. Mesmo assim, o Inkling-Small iguala ou supera o modelo maior em alguns dos principais testes de raciocínio, programação e conhecimento científico .

O modelo aceita entradas de texto, imagem e áudio, oferece uma janela de contexto de até 1 milhão de tokens e permite controlar o esforço de raciocínio — recurso que ajuda desenvolvedores a equilibrar qualidade, latência e custo .

Desempenho: onde o modelo menor leva vantagem

Os resultados divulgados mostram uma troca clara: o Inkling-Small é mais forte em raciocínio e programação agentiva, mas perde terreno em recuperação factual e matemática competitiva .

Fontes:

Os principais pontos são:

• Raciocínio: no Humanity’s Last Exam (HLE), em sua versão somente texto, o Inkling-Small marcou 31,6%, contra 29,7% do Inkling. Segundo a empresa, a vantagem aparece em todos os níveis de esforço de raciocínio avaliados .
• Programação com agentes: o modelo alcançou 80,2% no SWE-Bench Verified, em uma configuração com harness somente para Bash e trajetórias de 256 mil tokens — 2,6 pontos percentuais acima do Inkling .
• Ciência: no GPQA Diamond, conjunto de perguntas de nível avançado, obteve 89,5%, contra 87,2% do modelo maior .
• Recuperação factual: no SimpleQA Verified, o Inkling ainda tem ampla vantagem, com 43,9% contra 20,6%. O resultado evidencia o custo de otimizar o modelo menor para raciocínio em vez de priorizar tanto a memorização e a recuperação direta de fatos .
• Índice independente: a pontuação 40 no Artificial Analysis Intelligence Index v4.1 ficou a apenas um ponto do resultado 41 do Inkling .

Portanto, “Small” não significa necessariamente menos capacidade em todas as tarefas. Para programação, uso de ferramentas e problemas de raciocínio, o modelo menor pode ser a opção mais eficiente. Para respostas factuais diretas e matemática competitiva, porém, o Inkling continua à frente.

Como funciona a arquitetura MoE de 276 bilhões de parâmetros

O Inkling-Small é um transformer MoE esparso com 42 camadas. Em cada token, são ativados seis de 256 especialistas, além de dois especialistas compartilhados .

Em um modelo denso, praticamente todos os parâmetros participam do processamento de cada token. No MoE, diferentes “especialistas” são selecionados conforme a entrada. Assim, o Inkling-Small mantém 276 bilhões de parâmetros nos pesos, mas usa cerca de 12 bilhões durante cada etapa de inferência.

A arquitetura pertence à mesma família do Inkling, mas tem menos especialistas totais — 256, contra aproximadamente 576 no modelo maior — e ativa menos especialistas por camada. O sistema também usa atenção híbrida, combinando atenção completa e janelas deslizantes, além de oferecer esforço de raciocínio ajustável .

O treinamento em duas etapas

A Thinking Machines adotou uma receita de pós-treinamento em duas fases :

1. Destilação on-policy a partir do Inkling: uma versão anterior do Inkling-Small foi treinada com o Inkling como professor. O modelo estudante gerava suas próprias trajetórias, enquanto o professor fornecia supervisão detalhada em nível de token. Essa técnica combina a distribuição mais realista do treinamento on-policy com o sinal denso da destilação .
2. Duas semanas adicionais de aprendizado por reforço focado em agentes: a equipe continuou ampliando o treinamento de agentes para programação. Segundo a empresa, essa etapa ajudou o Inkling-Small a superar o Inkling em benchmarks de raciocínio e código .

O resultado é relevante porque o modelo menor ultrapassou seu professor em várias tarefas após apenas duas semanas adicionais de aprendizado por reforço. A estratégia também se alinha a pesquisas recentes sobre generalização de modelos menores para modelos mais fortes por meio da destilação on-policy .

Hardware: cerca de três vezes menos VRAM

A principal vantagem prática do Inkling-Small está no custo de execução. As configurações oficiais divulgadas na documentação do modelo são :

Para comparação, o checkpoint BF16 do Inkling exige aproximadamente 1,9 TB de VRAM agregada . Sua variante oficial quantizada em NVFP4 requer cerca de 600 GB .

A redução para 600 GB em BF16 — ou 180 GB em NVFP4 — não transforma o modelo em uma solução para computadores pessoais, mas muda o público que pode considerá-lo viável. Equipes de médio porte, startups bem financiadas e laboratórios universitários podem avaliar inferência e personalização sem recorrer necessariamente a clusters enormes com muitos nós .

O que isso muda no ajuste fino

• Ajuste fino de todos os parâmetros em BF16: requer um cluster com 4 B300 ou 8 H200, um investimento significativo, mas previsto na configuração oficial .
• Ajuste fino com LoRA em NVFP4: pode ser realizado com 2 H200, reduzindo bastante a barreira para adaptar o modelo a um domínio ou fluxo de trabalho específico .
• Inferência em NVFP4: o modo W4A4 pode caber em uma única B300, desde que a GPU tenha arquitetura SM100 ou superior .

O modelo oferece suporte a BF16, MXFP8 e NVFP4 . Ainda assim, os requisitos continuam muito acima dos de modelos abertos menores: os 12 bilhões de parâmetros ativos não eliminam a necessidade de carregar e distribuir o checkpoint completo.

Disponibilidade e preço

O Inkling-Small está disponível por diferentes caminhos :

• Pesos completos: publicados no Hugging Face sob a licença Apache 2.0.
• Tinker Playground: permite conversar com o modelo usando texto, imagem e áudio.
• Tinker API: oferece ajuste fino com LoRA e cobra US$ 1,20 por 1 milhão de tokens de saída .
• Ajuste fino na plataforma Tinker: disponibilizado para personalização por meio de LoRA .

O contexto da liderança da Thinking Machines Lab

A Thinking Machines Lab foi fundada pela ex-diretora de tecnologia da OpenAI Mira Murati, após sua saída da empresa em 2024. John Schulman, ex-cofundador da OpenAI e integrante da equipe responsável pelo RLHF, também está entre os fundadores.

Lilian Weng, que inicialmente fazia parte da equipe fundadora, deixou a Thinking Machines Lab e retornou à OpenAI. Com isso, Mira Murati e John Schulman são os cofundadores que permanecem à frente da startup .

Veredito

O Inkling-Small apresenta uma tese forte: um modelo com cerca de um quarto do tamanho total do Inkling pode alcançar desempenho semelhante — e até superior — em tarefas de raciocínio e programação agentiva quando recebe o pós-treinamento adequado.

Para organizações que não conseguem justificar os cerca de 1,9 TB de VRAM necessários pelo Inkling em BF16, o novo modelo reduz o ponto de entrada para aproximadamente 600 GB em BF16 ou 180 GB em NVFP4. A contrapartida é uma queda expressiva em recuperação factual, além de um desempenho um pouco inferior em AIME 2026.

Em resumo, para código, raciocínio e fluxos que dependem de agentes, o Inkling-Small surge como a alternativa de pesos abertos mais prática da Thinking Machines em julho de 2026. Para consultas factuais diretas, o Inkling maior ainda é a escolha mais segura entre os dois.