O que é o APXInf e o que seus testes dizem sobre a velocidade dos robôs

Quando um robô usa um modelo de IA para decidir o próximo movimento, não basta que a resposta esteja correta: ela precisa chegar a tempo. O APXInf é um motor de inferência de código aberto, lançado pela Infinigence AI em colaboração com a Universidade Tsinghua e a Universidade Jiao Tong de Xangai, para executar esses modelos perto dos sensores e atuadores, no próprio dispositivo. Seu papel é encurtar o intervalo entre receber uma observação e gerar uma ação — não substituir o controlador dos motores. 94

Como o APXInf funciona

A base é um ambiente de execução enxuto em Rust, responsável por gerenciar execução e memória. Interfaces em Python permitem chamar as políticas a partir de código familiar a quem desenvolve aplicações de robótica. Na migração de um modelo para o motor, o fluxo descrito parte de um checkpoint de referência e de entradas de teste fixas: antes de otimizar, compara a implementação adaptada com as saídas e os valores intermediários da referência. A intenção é ganhar velocidade sem perder de vista se o modelo continua produzindo os resultados esperados. 35

A aceleração atua em várias camadas. A organização do pipeline procura reduzir esperas ao longo da inferência; a captura do grafo de execução e o reaproveitamento de buffers evitam preparações repetidas; kernels ajustados aceleram operações custosas na GPU; e a quantização em formatos como FP8 e INT8 pode diminuir o volume de cálculo e a movimentação de dados na memória. Essas otimizações buscam tornar a geração de ações mais rápida e previsível em hardware embarcado. 85

O que mostram — e o que não mostram — os números do Jetson Thor

Na comparação divulgada para o modelo π0.5 em FP8 no Jetson Thor, a latência de inferência de ponta a ponta passou de 278 ms, na configuração não otimizada, para menos de 26 ms com o APXInf: uma redução de aproximadamente 10,7 vezes. A taxa informada é de 38,46 inferências por segundo, contra cerca de 3,6 por segundo correspondentes a 278 ms. Isso mede a inferência, não demonstra que todo o ciclo do robô — da leitura dos sensores ao acionamento dos motores — opere a 38,46 Hz. 89

Há uma ressalva para quem pretende usar o número como referência de desempenho: o repositório do projeto apresenta 41,16 ms e 24,3 inferências por segundo para π0.5 em FP8 no Jetson AGX Thor. Portanto, o resultado de menos de 26 ms divulgado no lançamento e o valor da tabela do repositório não devem ser apresentados como se fossem a mesma medição. Algumas reportagens também mencionam 46 Hz, embora os valores reiterados de 26 ms e 38,46 Hz sejam compatíveis entre si. Sem reproduzir as condições de cada teste, não dá para transferir uma dessas taxas diretamente para outra configuração. 568

Modelos, integração e próximos passos

A divulgação inicial cita π0.5 e WALL-OSS, além das plataformas RTX 4090, Jetson Orin e Jetson Thor. O repositório destaca especificamente o caminho otimizado da primeira versão para π0.5 em Thor e Orin, com opções de precisão BF16, FP8 e INT8; isso não significa que todas as combinações de modelo, dispositivo e precisão tenham o mesmo grau de otimização. 95

O APXInf ocupa a parte de inferência e implantação no ecossistema RLinf. O pacote voltado ao robô também oferece um servidor WebSocket compatível com a interface do OpenPI. Compatibilidade de interface, porém, não quer dizer que todos os checkpoints do OpenPI já tenham sido adaptados para o motor. 51

Os planos anunciados incluem ampliar o suporte a modelos de visão-linguagem-ação (VLA), modelos de visão e linguagem (VLM) e modelos de mundo, com Qwen e GR00T em adaptação, além de trabalhar em outros backends e plataformas. São itens de um roteiro de desenvolvimento, não garantias de suporte atual. Para avaliar o APXInf em um robô específico, é preciso repetir os testes com o checkpoint, a precisão, o dispositivo e os limites de potência pretendidos. Latência de inferência, isoladamente, não comprova sucesso da tarefa em malha fechada nem desempenho sustentado sob restrições térmicas e energéticas. 95