A aposta de US$ 220 milhões da Fractile para acelerar a inferência de IA

O cenário fica ainda mais pesado à medida que os modelos evoluem:

• As respostas ficam mais longas e complexas
• As janelas de contexto aumentam drasticamente
• Modelos de raciocínio executam múltiplos passos internos antes de responder

Em algumas tarefas avançadas, as cargas de trabalho já chegam a dezenas de milhões de tokens por tarefa, tornando a velocidade de geração e acesso à memória fatores críticos.

Para a Fractile, estamos chegando a um ponto em que a latência da inferência — e não a capacidade do modelo — pode se tornar o principal limite prático da IA.

A proposta da Fractile: calcular diretamente dentro da memória

A solução da startup é uma arquitetura baseada em computação na memória (in‑memory compute) ou muito próxima dela.

Nos aceleradores de IA tradicionais — como GPUs — os núcleos de processamento ficam separados da memória (por exemplo, HBM). Isso obriga os dados a viajar constantemente entre memória e processador, consumindo tempo e energia.

A arquitetura da Fractile tenta reduzir esse problema ao executar parte dos cálculos exatamente onde os dados do modelo estão armazenados.

Entre os principais elementos do design estão:

• Integração de memória e computação no mesmo chip
• Execução de operações do modelo diretamente nas estruturas de memória
• Redução do tráfego entre memória externa e unidades de cálculo

Ao diminuir essa movimentação de dados, a empresa acredita que pode melhorar latência, eficiência energética e custo operacional, fatores críticos para executar IA em grande escala.

Segundo a companhia, seus sistemas têm como meta rodar inferência de modelos de ponta até 25 vezes mais rápido e com cerca de um décimo do custo em comparação com o hardware atual. Em materiais anteriores, a empresa mencionou metas ainda mais agressivas — até 100 vezes mais rápido e 10 vezes mais barato em alguns cenários — embora esses números ainda não tenham validação independente.

Para onde vai o investimento de US$ 220 milhões

A rodada Série B de US$ 220 milhões foi liderada pelos fundos Accel, Factorial Funds e Founders Fund, com participação de Conviction, Gigascale Capital, O1A Ventures, Felicis, Buckley Ventures e 8VC.

O capital será usado para:

• Acelerar o desenvolvimento da arquitetura de chips de inferência
• Levar os primeiros sistemas de hardware à fase de produção
• Expandir equipes de engenharia no Reino Unido, Estados Unidos e Taiwan

A Fractile foi fundada em 2022 pelo engenheiro Walter Goodwin, formado em Oxford, e planeja entregar seus primeiros sistemas comerciais mais adiante nesta década.

Relatos também indicam discussões iniciais com empresas de IA como a Anthropic sobre o uso potencial da tecnologia quando o hardware estiver pronto, embora ainda não exista acordo comercial confirmado.

O que poderia surgir com inferência muito mais rápida

Se arquiteturas como a da Fractile realmente acelerarem a inferência de forma significativa, várias novas categorias de aplicações podem ganhar força.

1. Modelos de raciocínio em grande escala

Sistemas de raciocínio modernos frequentemente exploram múltiplas soluções, verificam respostas e executam cadeias de pensamento internas. Inferência mais rápida permitiria gastar mais computação no momento da resposta, conceito conhecido como test‑time compute.

2. Assistentes de IA realmente em tempo real

Aplicações conversacionais exigem respostas rápidas. Reduzir o tempo de geração de tokens pode fazer assistentes digitais parecerem mais próximos de uma conversa humana em tempo real.

3. Sistemas de IA baseados em agentes

Agentes autônomos podem executar tarefas complexas com várias etapas — chamar ferramentas, gerar código, raciocinar repetidamente e tomar decisões. Esse tipo de workload consome enormes volumes de tokens, tornando a velocidade de inferência crucial.

4. IA empresarial em grande escala

Empresas que oferecem APIs de modelos, copilotos corporativos ou automação de atendimento precisam de alto volume de respostas e baixo custo por token. Hardware especializado para inferência pode reduzir significativamente esses custos.

A grande incógnita: escalar um novo tipo de chip

A visão da Fractile reflete uma mudança maior na indústria: conforme a IA sai dos laboratórios e entra em produtos reais, eficiência na inferência se torna tão importante quanto capacidade de treinamento.

Ainda assim, as promessas mais ambiciosas da empresa continuam sendo metas declaradas, não benchmarks independentes. Construir uma nova arquitetura de chips capaz de competir com o ecossistema maduro das GPUs é um desafio enorme.

Mesmo assim, o tamanho da rodada de financiamento e o crescente interesse em hardware especializado indicam que muitos investidores acreditam que os próximos avanços da IA podem vir não de modelos maiores — mas de formas muito mais rápidas de executá‑los.