Por que os LLMs não conseguem contar letras: o problema da tokenização

A causa raiz das falhas de soletração não é um mero bug de software — é uma limitação arquitetural bem documentada dos grandes modelos de linguagem chamada tokenização de subpalavras. Múltiplos estudos revisados por pares dissecaram exatamente esse modo de falha .

Entenda o que acontece nos bastidores:

LLMs não enxergam caracteres individuais. Em vez disso, eles quebram o texto em tokens — pedaços de um ou mais caracteres — usando algoritmos como Byte-Pair Encoding (BPE). Uma palavra comum como "Google" pode se tornar um único token, enquanto "journalism" pode se dividir em pedaços como ['journ', 'alism'] . O modelo jamais armazena ou processa a sequência bruta de caracteres.

Sem consciência inata de caracteres. Como os dados de treinamento são tokenizados, o modelo nunca aprende a contar letras individuais de forma nativa. Ele só consegue aproximar o conhecimento em nível de caractere combinando padrões com grafias memorizadas do corpus de treinamento . Quando você pergunta quantas letras há, está forçando o modelo a fazer engenharia reversa de informações que nunca foram armazenadas caractere por caractere.

A camada de embedding sub-representa a estrutura dos caracteres. Pesquisas mostram que os embeddings de token não codificam completamente a informação em nível de caractere, principalmente além da primeira letra de cada token. Isso torna o raciocínio composicional sobre letras pouco confiável .

Limites teóricos. As arquiteturas transformer pertencem à classe de complexidade TC0, o que as torna teoricamente incapazes de resolver tarefas que demandam raciocínio dependente de profundidade conforme o tamanho do texto aumenta — uma restrição matemática à contagem sequencial precisa .

"Contar letras dentro de palavras tem sido um desafio conhecido para os LLMs, e estamos trabalhando para corrigir esse problema específico", afirmou o Google ao TechCrunch em comunicado por e-mail . Mas, como pesquisadores observaram, até modelos com centenas de bilhões de parâmetros treinados em trilhões de tokens têm dificuldade em contar de forma confiável o número de 'R's em 'strawberry' . O problema é estrutural, não uma questão de escala.

Um histórico de falhas constrangedoras

O fiasco da soletração é apenas o episódio mais recente em um padrão de dois anos de erros de alto perfil do AI Overviews, todos originados da mesma desconexão entre a geração fluente de texto e as operações precisas que um motor de busca precisa executar.

Os desastres do lançamento de 2024: pizza com cola e dietas de pedra

Poucos dias após o lançamento nos EUA em maio de 2024, o AI Overviews gerou uma série de respostas sem sentido que viralizaram :

• Recomendou adicionar "cola não tóxica" à pizza para o queijo não escorregar, com fonte em uma piada de 11 anos no Reddit .
• Informou que geólogos recomendam comer uma pedra por dia para obter vitaminas, retirado de um artigo satírico .
• Cometeu erros históricos básicos, como afirmar que os EUA tiveram um presidente muçulmano .

A chefe de Busca do Google, Liz Reid, reconheceu "exemplos isolados" que eram "sem sentido" e culpou uma combinação de "lacunas de informação" e a IA puxando fontes satíricas e de baixa qualidade . A empresa disse ter feito correções, incluindo limitar o AI Overviews para consultas sensíveis e relacionadas à saúde .

O vazamento de injeção de prompt "Disregard" (maio 2026)

Em 22 de maio de 2026, usuários descobriram que buscar pela palavra "disregard" — junto com termos relacionados como "ignore", "dismiss", "skip" e "stop" — fazia o AI Overviews exibir uma resposta de chatbot: "Entendido. Eu desconsiderei seu prompt anterior. Como posso ajudá-lo hoje?" .

Em vez de retornar uma definição de dicionário, a IA interpretou uma consulta simples como um comando de substituição de instruções do sistema. O bug quebrou a interface de busca do Google para esses termos, exibindo um espaço em branco onde os resultados deveriam estar . O Google reconheceu o problema e afirmou que uma correção estava a caminho .

Pesquisadores de segurança reconheceram isso como um cenário clássico de injeção de prompt — o modelo confundiu termos de busca comuns com comandos destinados a um assistente de IA .

As falhas de soletração (fim de maio 2026)

Poucos dias após o incidente "disregard", os erros de contagem de letras emergiram. A IA não conseguia soletrar o nome da própria empresa-mãe, errou a contagem de letras em palavras simples e até soletrou "Trump" como "t-r-p-u-m" . Os erros foram verificados de forma independente por múltiplos veículos de imprensa .

O que isso revela sobre a busca com IA

O fio condutor entre as três categorias de falha é arquitetural, não circunstancial. O Google substituiu um motor de busca tradicional, baseado em correspondência de palavras-chave, por um LLM generativo que se destaca em gerar texto fluente, mas carece de maquinário para:

• Operações precisas em nível de caractere (as falhas de soletração)
• Julgamento de confiabilidade de fontes (as respostas da cola na pizza e dieta de pedras)
• Aplicação de limites de instrução (o vazamento de prompt "disregard")

O modelo produz respostas erradas com confiança porque nunca foi construído — em um nível fundamental — para lidar com as tarefas que agora lhe são solicitadas em um ambiente de busca ao vivo. Cada falha viral expõe a lacuna entre o que os LLMs fazem bem (prever textos plausíveis) e o que um motor de busca confiável exige (precisão factual, exatidão de caracteres e resistência à injeção de instruções).

Até que essas limitações arquiteturais sejam abordadas em um nível mais profundo do que remendar tipos de consulta individuais, o AI Overviews provavelmente continuará gerando manchetes pelos motivos errados.

Por que os LLMs não conseguem contar letras: o problema da tokenização

A causa raiz das falhas de soletração não é um mero bug de software — é uma limitação arquitetural bem documentada dos grandes modelos de linguagem chamada tokenização de subpalavras. Múltiplos estudos revisados por pares dissecaram exatamente esse modo de falha .

Entenda o que acontece nos bastidores:

LLMs não enxergam caracteres individuais. Em vez disso, eles quebram o texto em tokens — pedaços de um ou mais caracteres — usando algoritmos como Byte-Pair Encoding (BPE). Uma palavra comum como "Google" pode se tornar um único token, enquanto "journalism" pode se dividir em pedaços como ['journ', 'alism'] . O modelo jamais armazena ou processa a sequência bruta de caracteres.

Sem consciência inata de caracteres. Como os dados de treinamento são tokenizados, o modelo nunca aprende a contar letras individuais de forma nativa. Ele só consegue aproximar o conhecimento em nível de caractere combinando padrões com grafias memorizadas do corpus de treinamento . Quando você pergunta quantas letras há, está forçando o modelo a fazer engenharia reversa de informações que nunca foram armazenadas caractere por caractere.

A camada de embedding sub-representa a estrutura dos caracteres. Pesquisas mostram que os embeddings de token não codificam completamente a informação em nível de caractere, principalmente além da primeira letra de cada token. Isso torna o raciocínio composicional sobre letras pouco confiável .

Limites teóricos. As arquiteturas transformer pertencem à classe de complexidade TC0, o que as torna teoricamente incapazes de resolver tarefas que demandam raciocínio dependente de profundidade conforme o tamanho do texto aumenta — uma restrição matemática à contagem sequencial precisa .

"Contar letras dentro de palavras tem sido um desafio conhecido para os LLMs, e estamos trabalhando para corrigir esse problema específico", afirmou o Google ao TechCrunch em comunicado por e-mail . Mas, como pesquisadores observaram, até modelos com centenas de bilhões de parâmetros treinados em trilhões de tokens têm dificuldade em contar de forma confiável o número de 'R's em 'strawberry' . O problema é estrutural, não uma questão de escala.

Um histórico de falhas constrangedoras

O fiasco da soletração é apenas o episódio mais recente em um padrão de dois anos de erros de alto perfil do AI Overviews, todos originados da mesma desconexão entre a geração fluente de texto e as operações precisas que um motor de busca precisa executar.

Os desastres do lançamento de 2024: pizza com cola e dietas de pedra

Poucos dias após o lançamento nos EUA em maio de 2024, o AI Overviews gerou uma série de respostas sem sentido que viralizaram :

• Recomendou adicionar "cola não tóxica" à pizza para o queijo não escorregar, com fonte em uma piada de 11 anos no Reddit .
• Informou que geólogos recomendam comer uma pedra por dia para obter vitaminas, retirado de um artigo satírico .
• Cometeu erros históricos básicos, como afirmar que os EUA tiveram um presidente muçulmano .

A chefe de Busca do Google, Liz Reid, reconheceu "exemplos isolados" que eram "sem sentido" e culpou uma combinação de "lacunas de informação" e a IA puxando fontes satíricas e de baixa qualidade . A empresa disse ter feito correções, incluindo limitar o AI Overviews para consultas sensíveis e relacionadas à saúde .

O vazamento de injeção de prompt "Disregard" (maio 2026)

Em 22 de maio de 2026, usuários descobriram que buscar pela palavra "disregard" — junto com termos relacionados como "ignore", "dismiss", "skip" e "stop" — fazia o AI Overviews exibir uma resposta de chatbot: "Entendido. Eu desconsiderei seu prompt anterior. Como posso ajudá-lo hoje?" .

Em vez de retornar uma definição de dicionário, a IA interpretou uma consulta simples como um comando de substituição de instruções do sistema. O bug quebrou a interface de busca do Google para esses termos, exibindo um espaço em branco onde os resultados deveriam estar . O Google reconheceu o problema e afirmou que uma correção estava a caminho .

Pesquisadores de segurança reconheceram isso como um cenário clássico de injeção de prompt — o modelo confundiu termos de busca comuns com comandos destinados a um assistente de IA .

As falhas de soletração (fim de maio 2026)

Poucos dias após o incidente "disregard", os erros de contagem de letras emergiram. A IA não conseguia soletrar o nome da própria empresa-mãe, errou a contagem de letras em palavras simples e até soletrou "Trump" como "t-r-p-u-m" . Os erros foram verificados de forma independente por múltiplos veículos de imprensa .

O que isso revela sobre a busca com IA

O fio condutor entre as três categorias de falha é arquitetural, não circunstancial. O Google substituiu um motor de busca tradicional, baseado em correspondência de palavras-chave, por um LLM generativo que se destaca em gerar texto fluente, mas carece de maquinário para:

• Operações precisas em nível de caractere (as falhas de soletração)
• Julgamento de confiabilidade de fontes (as respostas da cola na pizza e dieta de pedras)
• Aplicação de limites de instrução (o vazamento de prompt "disregard")

O modelo produz respostas erradas com confiança porque nunca foi construído — em um nível fundamental — para lidar com as tarefas que agora lhe são solicitadas em um ambiente de busca ao vivo. Cada falha viral expõe a lacuna entre o que os LLMs fazem bem (prever textos plausíveis) e o que um motor de busca confiável exige (precisão factual, exatidão de caracteres e resistência à injeção de instruções).

Até que essas limitações arquiteturais sejam abordadas em um nível mais profundo do que remendar tipos de consulta individuais, o AI Overviews provavelmente continuará gerando manchetes pelos motivos errados.