Sampura Research aposta em supervisão híbrida para tornar a IA mais segura

A Sampura Research é uma organização sem fins lucrativos sediada em Londres e dedicada à segurança de sistemas de inteligência artificial. Ela foi fundada por Rishub Jain e Josh Jacob, ex-pesquisadores do Google DeepMind. Embora a pergunta original também cite Alex Adams, o anúncio da própria Sampura não o apresenta como cofundador; Adams é mencionado por ter dado feedback sobre o comunicado. A organização foi lançada publicamente em 25 de agosto de 2026, com um compromisso inicial de US$ 11 milhões da Coefficient Giving — US$ 7 milhões para o primeiro ano e mais US$ 4 milhões prometidos. 4

Por que a Sampura quer manter humanos no processo

A indústria de IA vem tentando resolver o problema da supervisão escalável usando modelos de linguagem para avaliar outros modelos. A lógica é direta: sistemas automatizados são mais rápidos e baratos, e em algumas tarefas já conseguem identificar vulnerabilidades melhor do que pessoas.

A Sampura questiona, porém, a ideia de que a supervisão possa ser totalmente automatizada. Sua tese é que seres humanos ainda têm capacidades específicas importantes: reconhecer falhas irregulares ou “desiguais” dos modelos, oferecer uma verificação independente contra possíveis acordos entre o modelo avaliado e o modelo avaliador e deliberar sobre valores humanos novos ou em transformação. 4

Isso não significa colocar uma pessoa para revisar cada resposta de uma IA. A proposta é direcionar a participação humana para os casos em que ela provavelmente agregará mais segurança.

O que são os “juízes” híbridos

Na terminologia da Sampura, um juiz é uma pessoa, um sistema de IA ou uma combinação dos dois capaz de avaliar se o comportamento de outro sistema está correto e alinhado aos objetivos definidos. A avaliação pode envolver uma resposta simples de chatbot ou toda a trajetória de um agente que executa várias etapas.

O projeto pretende desenvolver métodos para:

• estimar o grau de confiança de um avaliador de IA;
• encaminhar casos incertos para revisão humana;
• usar roteadores para decidir quais tarefas ou subtarefas devem ser atribuídas a pessoas ou a sistemas automatizados;
• oferecer ferramentas de IA específicas para ajudar os avaliadores humanos.

Na prática, o modelo seria mais próximo de uma triagem inteligente do que de uma revisão manual universal: a IA cuidaria do volume e os humanos entrariam nos pontos de maior risco ou incerteza.

Benchmarks, dados e um ranking público

Nos seis primeiros meses, a Sampura planeja construir uma plataforma pública de avaliação, com um ranking atualizado continuamente e mais de 20 subconjuntos de dados. Entre os temas anunciados estão detecção de engano, viés cultural e ações inseguras realizadas por agentes de IA. 4

A organização também quer testar os avaliadores em condições mais difíceis do que exemplos estáticos. Um dos objetivos é verificar se um modelo supervisionado consegue aprender a explorar as limitações do seu avaliador durante o treinamento por reforço — um fenômeno conhecido como reward hacking, ou manipulação da função de recompensa.

A Sampura afirma que pretende divulgar artigos, código, conjuntos de dados e rankings. A abertura desses materiais pode facilitar a comparação independente entre diferentes métodos de supervisão, embora a existência de uma plataforma pública, por si só, não prove que os modelos estarão contidos ou seguros em ambientes reais.

De falhas técnicas a danos sociais

O escopo anunciado vai além do cenário clássico de uma IA “descontrolada”. A pesquisa também deve abordar vieses, interações inseguras com crianças e dependência excessiva de sistemas de IA usados como companhia. Em uma etapa posterior, a organização pretende avaliar não apenas as respostas dos modelos, mas também as instruções, os critérios de avaliação e os casos de teste usados para julgá-los. 4

Essa abordagem pode ajudar a antecipar falhas antes que elas apareçam em produtos amplamente utilizados. Ainda assim, trata-se de um programa de pesquisa: não há, nas informações disponíveis, uma demonstração de que a Sampura já tenha desenvolvido uma capacidade comprovada de contenção.

Como a proposta será testada na prática

A organização pretende investigar se juízes melhores realmente reduzem o reward hacking, quando esses avaliadores precisam ser treinados novamente à medida que os modelos evoluem e qual é o equilíbrio entre custo, velocidade e qualidade da supervisão humana.

Uma possibilidade é começar com testes conduzidos por avaliadores externos. Depois, a Sampura espera que seus métodos possam ser usados por laboratórios que desenvolvem modelos de fronteira — sistemas de IA altamente avançados — em treinamento, avaliações e monitoramento.

O ponto decisivo será medir resultados concretos: uma arquitetura híbrida identifica mais falhas relevantes? Mantém desempenho quando o modelo avaliado tenta contorná-la? E consegue fazer isso sem tornar o processo lento ou caro demais?

A disputa por profissionais de avaliação

A contratação também é parte importante da estratégia. Uma vaga publicada pela METR para execução de avaliações informa salário-base anual de US$ 285.548 a US$ 503.116, com possibilidade de valores maiores para candidatos excepcionais. O anúncio ilustra a escassez de profissionais experientes em avaliação e segurança de IA. 9

Nesse contexto, a decisão da Sampura de recrutar uma equipe técnica em Londres é estrategicamente relevante. No entanto, não há evidência suficiente em uma fonte primária para confirmar a afirmação específica de que a organização contratará “ao menos seis” pessoas com salários entre £100 mil e £290 mil. O anúncio oficial limita-se a informar que estão abertas vagas para os primeiros profissionais técnicos em Londres. 4

Como isso se relaciona ao pedido de desacelerar a IA

Em julho de 2026, mais de 1.100 profissionais ligados ao desenvolvimento de IA de fronteira assinaram uma carta que pedia capacidade internacional para desacelerar o avanço da tecnologia caso ele ultrapasse a capacidade humana de supervisão segura. 1

A Sampura pode contribuir com uma parte técnica desse debate: avaliações mais confiáveis, auditáveis e resistentes a manipulação. Mas uma organização de pesquisa não cria, sozinha, autoridade legal, coordenação internacional, acesso aos modelos ou mecanismos de fiscalização. Seu trabalho complementa — e não substitui — políticas públicas e estruturas de governança.

A saída de Jain do DeepMind e o contexto de talentos

A saída de Jain ocorreu em meio a uma sequência mais ampla de desligamentos do Google DeepMind. Porém, a formulação de que “cinco pesquisadores centrais saíram em seis dias” parece ter origem em reportagens secundárias de qualidade limitada e não deve ser tratada como um fato independentemente confirmado. 5

Também não há evidência suficiente para sustentar a afirmação abrangente de que as empresas de IA “não conseguem conter o que construíram”. A conclusão mais segura é mais restrita: a supervisão robusta de modelos cada vez mais capazes ainda não foi demonstrada de forma conclusiva, profissionais de avaliação são escassos e a Sampura tenta tornar a participação humana mais escalável e resistente a falhas.

A aposta da organização, portanto, não é simplesmente trocar humanos por máquinas nem manter pessoas no circuito a qualquer custo. É descobrir quando a IA é uma boa avaliadora, quando ela precisa de um contraponto humano e como combinar os dois sem criar uma falsa sensação de segurança.