Por que a OpenAI estaria comprando dezenas de milhares de Macs para agentes de IA

Relatos de que a OpenAI teria comprado dezenas de milhares de computadores Mac mini e Mac Studio apontam para uma necessidade específica de infraestrutura: executar muitos ambientes independentes de macOS para agentes que usam computadores e para experimentos de aprendizado por reforço. As informações disponíveis, porém, não mostram que o Apple Silicon esteja substituindo os clusters de GPUs usados no treinamento de modelos de fronteira. A quantidade exata e o uso detalhado das máquinas ainda não foram confirmados. 111

Por que agentes de IA precisam de computadores comuns

Um agente de uso computacional faz mais do que gerar texto. Ele pode abrir um navegador, interagir com aplicativos, organizar arquivos, lidar com permissões e reagir a mudanças na interface. Para treinar e avaliar esse comportamento, é necessário repetir essas interações em ambientes de sistema operacional relativamente realistas.

Uma frota de Macs compactos pode funcionar como um conjunto de trabalhadores independentes rodando macOS. Essas máquinas podem servir como ambientes isolados para agentes, sistemas de avaliação, pontos de inferência e workers para execuções de aprendizado por reforço. Relatos também afirmam que a Anthropic estaria alugando capacidade de Macs por meio da Amazon Web Services (AWS) para tarefas semelhantes. 126

A diferença é importante. No aprendizado por reforço, o sistema de IA realiza muitas tentativas — ou trajetórias — dentro de um ambiente e usa os resultados para melhorar sua política de decisão. Quando o ambiente é um desktop real, pode ser mais prático disponibilizar diretamente o sistema operacional e os aplicativos do que tentar reproduzir cada comportamento por emulação ou virtualização.

A principal vantagem da Apple é a memória unificada

Nos chips da Apple, CPU, GPU e recursos de processamento neural compartilham um mesmo pool de memória unificada. Com isso, os dados não precisam ser transferidos entre a memória do sistema e a memória dedicada de uma GPU da mesma forma que em uma configuração convencional de CPU mais GPU discreta. 5

Em aplicações locais de IA, a capacidade de memória pode ser mais importante do que uma pontuação de acelerador divulgada em destaque. Um pool amplo pode armazenar pesos do modelo, estado dos aplicativos, dados e informações usadas durante a inferência na mesma máquina. Isso torna os Macs interessantes para:

• servir modelos localmente;
• executar modelos de linguagem quantizados;
• avaliar e orquestrar agentes;
• preparar e pré-processar dados; e
• realizar implantações privadas ou offline.

Essa arquitetura não elimina as limitações. O Apple Silicon não é automaticamente a opção mais rápida para todos os tipos de carga, e um Mac com muita memória não oferece o mesmo ecossistema de software, os mesmos interconectores ou a mesma escala de um cluster de GPUs de datacenter.

O resultado mais provável é uma infraestrutura heterogênea: GPUs para treinamento distribuído de alto volume e Macs — ou outros sistemas locais — para execuções paralelas, testes e inferência nos pontos de uso.

Onde entram os novos Mac mini e Mac Studio

A linha atualizada de desktops da Apple oferece dois níveis de hardware que combinam com essa estratégia. O novo Mac mini parte de US$ 899 e pode ser configurado com M6 ou M5 Pro. O Mac Studio começa em US$ 2.499 com M5 Max e em US$ 5.499 com M5 Ultra. A Apple anunciou disponibilidade a partir de 22 de setembro. 171826

O M6 é o primeiro chip de Mac da Apple produzido em um processo de 2 nanômetros, enquanto o M5 Ultra é a opção voltada à maior capacidade de memória. Segundo a Apple, o M5 Ultra pode ser configurado com até 512 GB de memória unificada e largura de banda de 1,2 TB/s — características destinadas a executar localmente modelos de linguagem com centenas de bilhões de parâmetros. 2133

A divisão de funções seria relativamente clara:

• Mac mini: nós compactos e mais baratos para ambientes de agentes em escala, testes e inferência mais leve.
• Mac Studio: estações com mais memória para desenvolvedores, pesquisadores, servidores locais de modelos e cargas que não cabem confortavelmente em GPUs de consumo comuns.

Nesse contexto, uma eventual compra em grande escala pela OpenAI faria sentido como estratégia de frota: muitas máquinas menores para ambientes independentes, complementadas por sistemas mais potentes para modelos maiores e desenvolvimento.

Que modelos cabem em um M5 Ultra de 256 GB?

Uma configuração com 256 GB é bastante robusta, mas não representa o máximo de memória do M5 Ultra. Em termos gerais, ela deve executar com folga modelos da classe de 70 bilhões de parâmetros, inclusive versões quantizadas com espaço para o sistema operacional, o contexto e o mecanismo de inferência. Um modelo de 70 bilhões em quantização de quatro bits costuma exigir aproximadamente 40 a 48 GB de memória acessível, dependendo da quantização e da implementação. 54

A mesma máquina também pode comportar alguns modelos esparsos ou de mistura de especialistas, conhecidos como mixture of experts (MoE), consideravelmente maiores quando submetidos a uma quantização agressiva. Estimativas para a plataforma colocam determinados modelos de aproximadamente 235 bilhões a 284 bilhões de parâmetros dentro de um sistema com 256 GB, mas esses números são estimativas, não benchmarks fornecidos pelo fabricante. 405051

O número de parâmetros exibido na ficha técnica de um modelo não é suficiente para determinar se ele funcionará bem. O resultado depende de fatores como:

• o modelo ser denso ou do tipo mixture of experts;
• o nível de quantização;
• o tamanho do contexto e as exigências do cache de chaves e valores (KV cache);
• a sobrecarga do framework; e
• a velocidade considerada aceitável pelo usuário.

Um modelo pode caber tecnicamente e ainda ser lento demais para tarefas interativas exigentes com agentes. Por outro lado, um modelo menor pode ser mais útil se responder rapidamente e permitir várias tarefas simultâneas.

O que a história dos Macs prova — e o que não prova

A conclusão mais sólida é que a infraestrutura de IA está se expandindo para além de uma única categoria: os enormes clusters de GPUs. O desenvolvimento de agentes e a inferência local criam demanda por muitas máquinas menores e controláveis, especialmente quando a carga é paralela, depende de um sistema operacional de desktop real ou exige mais privacidade e menor latência.

As evidências disponíveis não confirmam todas as afirmações de mercado associadas ao caso. Relatos que vinculam as compras a escassez específica de componentes, a um crescimento de 29% na receita de Macs ou à suposta visão da Nvidia de que a Apple seria sua principal concorrente em IA local não estão suficientemente corroborados no material fornecido. Essas alegações devem ser tratadas como provisórias, não como fatos estabelecidos.

A oportunidade da Apple parece mais clara em duas camadas do mercado: inferência local com muita memória e frotas de máquinas para desenvolvimento e avaliação de agentes. Nvidia e outros aceleradores de datacenter continuam importantes para cargas que exigem o máximo de velocidade de treinamento e sistemas distribuídos em escala massiva.

O futuro, portanto, tende menos a ser uma disputa de “Mac contra Nvidia” e mais uma divisão de trabalho: cada plataforma cuidará dos tipos de carga de IA para os quais sua arquitetura é mais adequada.