Como a OpenAI quer facilitar a verificação de imagens geradas por IA

O que são os Content Credentials do C2PA

O C2PA (Coalition for Content Provenance and Authenticity) é um padrão aberto criado para registrar informações sobre como um conteúdo digital foi criado ou modificado. Esses dados ficam armazenados como metadados no arquivo da imagem.

Entre as informações possíveis estão:

• se a imagem foi gerada por IA
• quais ferramentas foram usadas
• quais edições foram feitas ao longo do tempo

O sistema usa assinaturas criptográficas e registros de proveniência, permitindo que ferramentas compatíveis verifiquem o histórico do arquivo e mostrem ao usuário como aquele conteúdo surgiu ou foi alterado.

Hoje o padrão já está sendo adotado por empresas de tecnologia, fabricantes de câmeras, organizações de mídia e desenvolvedores de IA como forma de aumentar a transparência em torno de conteúdos digitais.

O problema dos sistemas baseados apenas em metadados

Apesar de úteis, metadados sozinhos têm uma limitação importante: eles podem desaparecer facilmente.

Quando uma imagem circula na internet, várias ações comuns podem remover ou modificar esses dados, como:

• baixar e reenviar arquivos
• tirar capturas de tela
• editar ou recomprimir a imagem
• converter o formato do arquivo

Quando isso acontece, o registro de origem pode ser perdido. É justamente essa fragilidade que levou a OpenAI a adicionar uma segunda camada de identificação.

Como a marca d’água invisível SynthID funciona

O SynthID é uma tecnologia de marca d’água invisível criada pelo Google DeepMind que insere um sinal diretamente nos pixels da imagem.

Diferente dos metadados — que ficam fora da imagem — o SynthID altera a estrutura da imagem de forma imperceptível ao olho humano, mas detectável por ferramentas de verificação.

Como o sinal está embutido nos pixels, ele pode resistir a várias transformações comuns, como:

• recortes
• compressão
• mudanças de formato

Ou seja, mesmo quando os metadados desaparecem, ainda pode existir um sinal técnico que indica que a imagem foi gerada por IA.

Combinando metadados e marca d’água invisível, a OpenAI cria um sistema redundante de verificação: se um dos sinais for perdido, o outro pode continuar detectável.

A nova ferramenta pública “Verify”

Além dos sinais embutidos nas imagens, a OpenAI também apresentou uma prévia de uma ferramenta pública de verificação chamada “Verify”.

A ideia é simples: qualquer pessoa poderá enviar uma imagem para a ferramenta e verificar se ela foi gerada por sistemas da OpenAI, incluindo:

• ChatGPT
• Codex
• OpenAI API

O sistema analisa a presença de sinais como os metadados C2PA ou a marca d’água SynthID para determinar a origem da imagem.

No entanto, a ferramenta tem limitações. Relatos iniciais indicam que ela pode não identificar corretamente imagens que tenham sido fortemente editadas ou que perderam completamente esses sinais técnicos.

Por que isso importa na era da desinformação

A internet já está repleta de imagens sintéticas extremamente realistas. À medida que os modelos de IA evoluem, fica cada vez mais difícil para o público distinguir conteúdo real de conteúdo gerado artificialmente.

A iniciativa da OpenAI tenta tornar esse processo mais transparente. Ao inserir sinais verificáveis nas imagens e oferecer uma ferramenta de checagem, a empresa espera ajudar:

• jornalistas a confirmar a autenticidade de imagens
• plataformas a detectar conteúdo sintético
• pesquisadores a estudar o impacto da mídia gerada por IA
• usuários a entender melhor a origem do que veem online

Esses mecanismos não eliminam completamente o problema — especialmente porque muitas ferramentas de IA ainda não adotam padrões de proveniência. Mas eles podem tornar as imagens mais rastreáveis quando forem geradas por sistemas da OpenAI.

Um passo rumo à proveniência padrão da mídia digital

A iniciativa também reflete um movimento maior da indústria de tecnologia e mídia em direção a padrões abertos para rastrear a origem de conteúdo digital.

Em vez de depender de uma única técnica de detecção, empresas estão adotando uma combinação de metadados, marca d’água e ferramentas de verificação. Se esse modelo ganhar ampla adesão entre plataformas, fabricantes de dispositivos e empresas de IA, sistemas como C2PA + SynthID podem se tornar parte essencial da infraestrutura de confiança da internet na era da IA generativa.