A Crítica: Filtros Amplos Derrubam o Trabalho Legítimo

A principal queixa dos pesquisadores é a sensibilidade extrema dos classificadores de conteúdo do Fable 5. Valentina “Chompie” Palmiotti, uma proeminente pesquisadora de segurança da IBM X-Force, disse ao TechCrunch que o modelo rejeita “qualquer solicitação que seja tangencialmente relacionada à área cibernética — até mesmo tarefas inócuas como ler um post de blog” . Isso significa que pedidos de ajuda para entender conceitos fundamentais de cibersegurança estão sendo sinalizados, não apenas os perigosos.

Essa sinalização excessiva tem um impacto negativo direto na utilidade do modelo. Quando uma consulta é sinalizada, o usuário recebe uma resposta diluída de uma IA mais antiga, uma troca sobre a qual ele não é explicitamente informado . O problema foi agravado pela forma como essa informação foi divulgada. Críticos argumentam que o comportamento só foi revelado nas profundezas de um documento técnico ('system card') de 319 páginas, levando a acusações de que a Anthropic se envolveu em uma "sabotagem secreta" das capacidades do modelo para certos usuários .

As restrições não se limitam à cibersegurança. As barreiras também visam consultas relacionadas a biologia, química e, de forma crítica, destilação de modelos de IA. Este último ponto alimentou uma onda separada de críticas, com alguns desenvolvedores acusando a Anthropic de usar a "segurança" como pretexto para um comportamento anticompetitivo, impedindo que outros desenvolvedores de IA usem os resultados do Fable 5 para treinamento .

Como o Sistema de Barreiras Funciona: Uma Troca Silenciosa

O sistema de segurança da Anthropic no Fable 5 não é um simples mecanismo de recusa. É um sistema de roteamento projetado para falhar silenciosamente . A arquitetura funciona em três etapas:

1. Classificadores Pré-Modelo: Sistemas de IA separados, chamados classificadores, ficam à frente do modelo principal Fable 5. Eles inspecionam os comandos dos usuários em tempo real, observando palavras-chave e padrões relacionados a quatro domínios de alto risco: cibersegurança, biologia, química e destilação de modelos .
2. Roteamento de Contingência Silencioso: Quando um classificador é acionado, ele não bloqueia a resposta. Em vez disso, redireciona a consulta de forma transparente e silenciosa para um modelo mais antigo e menos capaz, o Claude Opus 4.8, que gera a resposta .
3. Nenhuma Notificação ao Usuário: A falha crítica de design, segundo os críticos, é que a interface do usuário não deixa clara essa troca de modelo. Os usuários só percebem quando a qualidade da resposta cai repentinamente, fazendo parecer que o Fable 5 está inexplicavelmente tendo um mau desempenho .

A Anthropic afirma que esses classificadores são acionados em menos de 5% de todas as sessões, em média . A empresa reconheceu publicamente o problema da sinalização excessiva. Um porta-voz disse ao Business Insider que as medidas de segurança "podem sinalizar solicitações seguras, neutras ou benignas", mas justificou isso como uma troca necessária para lançar publicamente um modelo com capacidades subjacentes tão poderosas .

Como a Anthropic Justifica o Ajuste Conservador

A posição da Anthropic é de que as barreiras de segurança conservadoras são uma escolha deliberada e responsável, e não uma falha. A empresa argumenta que o modelo subjacente da classe Mythos é tão proficiente em tarefas como encontrar e explorar vulnerabilidades de software que um lançamento público irrestrito criaria um risco inaceitável de uso indevido catastrófico .

As barreiras são, em sua visão, um compromisso de design — uma forma de fornecer ao público acesso a um modelo de ponta para raciocínio, codificação e escrita, colocando uma "caixa de areia" em torno de suas capacidades potencialmente mais perigosas . Eles enquadram a sinalização excessiva como o custo temporário de lançar um modelo poderoso de forma "segura e rápida", com o compromisso de refinar os classificadores ao longo do tempo .

O Padrão Emergente da Indústria: Dois Modelos, Dois Níveis

O lançamento do Claude Fable 5 não pode ser totalmente compreendido isoladamente. Ele é uma metade de uma estratégia de implantação em dois níveis que está se tornando um novo padrão da indústria para modelos de IA de fronteira .

Claude Fable 5 vs. Claude Mythos 5

No mesmo dia em que o Fable 5 foi lançado, a Anthropic também anunciou o Claude Mythos 5. Ambos os modelos compartilham a mesma arquitetura e pesos subjacentes — eles são o mesmo "cérebro". A única diferença é a configuração de segurança. O Mythos 5 tem os classificadores removidos nos domínios sensíveis, dando-lhe suas capacidades completas e irrestritas .

No entanto, o Mythos 5 não é para o público. Ele é restrito a um pequeno grupo de parceiros avaliados, incluindo agências governamentais e operadores de infraestrutura crítica, por meio de uma iniciativa chamada Project Glasswing . Este programa, apoiado pelo governo dos EUA, foi lançado inicialmente com 12 parceiros fundadores, incluindo gigantes da tecnologia como AWS, Google e Microsoft, para permitir que "defensores cibernéticos" usem IA para encontrar e corrigir vulnerabilidades de software em escala . Com o lançamento do Mythos 5, o acesso foi expandido para aproximadamente 40 organizações .

A tabela abaixo ilustra a divisão fundamental:

Implantação de IA em Camadas por Capacidade

A divisão Fable/Mythos da Anthropic é o exemplo mais explícito do que pode ser chamado de implantação de IA em camadas por capacidade. Neste novo modelo, uma única IA de fronteira não é um produto único. Todo o seu poder é um privilégio, não um dado adquirido, e as barreiras de segurança são o mecanismo que cria a diferenciação do produto .

Este padrão não é exclusivo da Anthropic. Outras empresas líderes de IA, incluindo a OpenAI, adotaram abordagens semelhantes, fornecendo versões de acesso restrito de seus modelos mais avançados para parceiros de segurança nacional e pesquisa . O lançamento do Fable/Mythos cristaliza um futuro onde as capacidades de IA mais poderosas são controladas não pela tecnologia, mas por um status de autorização, com protocolos de segurança funcionando como mecanismos de controle de acesso — uma abordagem que já está gerando um debate mais amplo sobre centralização, equidade e o verdadeiro significado de uma segurança de IA "pública".

A Crítica: Filtros Amplos Derrubam o Trabalho Legítimo

A principal queixa dos pesquisadores é a sensibilidade extrema dos classificadores de conteúdo do Fable 5. Valentina “Chompie” Palmiotti, uma proeminente pesquisadora de segurança da IBM X-Force, disse ao TechCrunch que o modelo rejeita “qualquer solicitação que seja tangencialmente relacionada à área cibernética — até mesmo tarefas inócuas como ler um post de blog” . Isso significa que pedidos de ajuda para entender conceitos fundamentais de cibersegurança estão sendo sinalizados, não apenas os perigosos.

Essa sinalização excessiva tem um impacto negativo direto na utilidade do modelo. Quando uma consulta é sinalizada, o usuário recebe uma resposta diluída de uma IA mais antiga, uma troca sobre a qual ele não é explicitamente informado . O problema foi agravado pela forma como essa informação foi divulgada. Críticos argumentam que o comportamento só foi revelado nas profundezas de um documento técnico ('system card') de 319 páginas, levando a acusações de que a Anthropic se envolveu em uma "sabotagem secreta" das capacidades do modelo para certos usuários .

As restrições não se limitam à cibersegurança. As barreiras também visam consultas relacionadas a biologia, química e, de forma crítica, destilação de modelos de IA. Este último ponto alimentou uma onda separada de críticas, com alguns desenvolvedores acusando a Anthropic de usar a "segurança" como pretexto para um comportamento anticompetitivo, impedindo que outros desenvolvedores de IA usem os resultados do Fable 5 para treinamento .

Como o Sistema de Barreiras Funciona: Uma Troca Silenciosa

O sistema de segurança da Anthropic no Fable 5 não é um simples mecanismo de recusa. É um sistema de roteamento projetado para falhar silenciosamente . A arquitetura funciona em três etapas:

1. Classificadores Pré-Modelo: Sistemas de IA separados, chamados classificadores, ficam à frente do modelo principal Fable 5. Eles inspecionam os comandos dos usuários em tempo real, observando palavras-chave e padrões relacionados a quatro domínios de alto risco: cibersegurança, biologia, química e destilação de modelos .
2. Roteamento de Contingência Silencioso: Quando um classificador é acionado, ele não bloqueia a resposta. Em vez disso, redireciona a consulta de forma transparente e silenciosa para um modelo mais antigo e menos capaz, o Claude Opus 4.8, que gera a resposta .
3. Nenhuma Notificação ao Usuário: A falha crítica de design, segundo os críticos, é que a interface do usuário não deixa clara essa troca de modelo. Os usuários só percebem quando a qualidade da resposta cai repentinamente, fazendo parecer que o Fable 5 está inexplicavelmente tendo um mau desempenho .

A Anthropic afirma que esses classificadores são acionados em menos de 5% de todas as sessões, em média . A empresa reconheceu publicamente o problema da sinalização excessiva. Um porta-voz disse ao Business Insider que as medidas de segurança "podem sinalizar solicitações seguras, neutras ou benignas", mas justificou isso como uma troca necessária para lançar publicamente um modelo com capacidades subjacentes tão poderosas .

Como a Anthropic Justifica o Ajuste Conservador

A posição da Anthropic é de que as barreiras de segurança conservadoras são uma escolha deliberada e responsável, e não uma falha. A empresa argumenta que o modelo subjacente da classe Mythos é tão proficiente em tarefas como encontrar e explorar vulnerabilidades de software que um lançamento público irrestrito criaria um risco inaceitável de uso indevido catastrófico .

As barreiras são, em sua visão, um compromisso de design — uma forma de fornecer ao público acesso a um modelo de ponta para raciocínio, codificação e escrita, colocando uma "caixa de areia" em torno de suas capacidades potencialmente mais perigosas . Eles enquadram a sinalização excessiva como o custo temporário de lançar um modelo poderoso de forma "segura e rápida", com o compromisso de refinar os classificadores ao longo do tempo .

O Padrão Emergente da Indústria: Dois Modelos, Dois Níveis

O lançamento do Claude Fable 5 não pode ser totalmente compreendido isoladamente. Ele é uma metade de uma estratégia de implantação em dois níveis que está se tornando um novo padrão da indústria para modelos de IA de fronteira .

Claude Fable 5 vs. Claude Mythos 5

No mesmo dia em que o Fable 5 foi lançado, a Anthropic também anunciou o Claude Mythos 5. Ambos os modelos compartilham a mesma arquitetura e pesos subjacentes — eles são o mesmo "cérebro". A única diferença é a configuração de segurança. O Mythos 5 tem os classificadores removidos nos domínios sensíveis, dando-lhe suas capacidades completas e irrestritas .

No entanto, o Mythos 5 não é para o público. Ele é restrito a um pequeno grupo de parceiros avaliados, incluindo agências governamentais e operadores de infraestrutura crítica, por meio de uma iniciativa chamada Project Glasswing . Este programa, apoiado pelo governo dos EUA, foi lançado inicialmente com 12 parceiros fundadores, incluindo gigantes da tecnologia como AWS, Google e Microsoft, para permitir que "defensores cibernéticos" usem IA para encontrar e corrigir vulnerabilidades de software em escala . Com o lançamento do Mythos 5, o acesso foi expandido para aproximadamente 40 organizações .

A tabela abaixo ilustra a divisão fundamental:

Implantação de IA em Camadas por Capacidade

A divisão Fable/Mythos da Anthropic é o exemplo mais explícito do que pode ser chamado de implantação de IA em camadas por capacidade. Neste novo modelo, uma única IA de fronteira não é um produto único. Todo o seu poder é um privilégio, não um dado adquirido, e as barreiras de segurança são o mecanismo que cria a diferenciação do produto .

Este padrão não é exclusivo da Anthropic. Outras empresas líderes de IA, incluindo a OpenAI, adotaram abordagens semelhantes, fornecendo versões de acesso restrito de seus modelos mais avançados para parceiros de segurança nacional e pesquisa . O lançamento do Fable/Mythos cristaliza um futuro onde as capacidades de IA mais poderosas são controladas não pela tecnologia, mas por um status de autorização, com protocolos de segurança funcionando como mecanismos de controle de acesso — uma abordagem que já está gerando um debate mais amplo sobre centralização, equidade e o verdadeiro significado de uma segurança de IA "pública".