O plano da OpenAI para identificar imagens criadas por IA

Imagens geradas por inteligência artificial estão ficando cada vez mais realistas — e, muitas vezes, difíceis de distinguir de fotos verdadeiras. Para lidar com isso, a OpenAI está implementando um sistema de rastreamento de origem de conteúdo (content provenance) que ajuda a indicar de onde uma imagem veio e se ela foi criada por IA.

A estratégia combina três elementos principais: metadados C2PA (Content Credentials), a marca d’água invisível SynthID desenvolvida pelo Google DeepMind e uma ferramenta pública de verificação que permite analisar imagens enviadas pelos usuários. A ideia não é criar um detector perfeito, mas sim um conjunto de sinais que ajudem a rastrear a origem de imagens online.

Uma estratégia baseada em múltiplas camadas

Em vez de depender de um único método para identificar imagens geradas por IA, a OpenAI está adotando tecnologias complementares. Cada uma fornece um tipo diferente de evidência sobre como o arquivo foi criado.

• Metadados C2PA registram informações de origem do arquivo.
• Marca d’água SynthID incorpora um sinal invisível diretamente na imagem.
• Ferramenta de verificação pública permite analisar imagens e procurar esses sinais.

Ao combinar diferentes métodos, a empresa tenta compensar as limitações de cada tecnologia isoladamente.

Metadados C2PA (Content Credentials)

A OpenAI aderiu ao padrão C2PA (Coalition for Content Provenance and Authenticity), um padrão técnico aberto criado para adicionar metadados verificáveis criptograficamente a arquivos de mídia.

Em imagens geradas por IA, esses metadados podem indicar, por exemplo:

• Se a imagem foi criada por um sistema de IA
• Quais ferramentas ou modelos foram usados
• Se o arquivo foi editado posteriormente

Como o C2PA é um padrão aberto, ele não se limita à IA. Fabricantes de câmeras, veículos de mídia e softwares de edição também podem incorporar essas informações, criando um ecossistema mais amplo para verificar a autenticidade de conteúdo digital.

A principal limitação é que metadados podem desaparecer facilmente. Capturas de tela, compressão de arquivos, edição em certos programas ou reenvio para plataformas que não preservam metadados podem remover essas informações.

Marca d’água invisível SynthID

Para tornar a identificação mais resistente, a OpenAI firmou parceria com o Google DeepMind para usar a tecnologia SynthID, uma marca d’água invisível incorporada diretamente nos pixels da imagem.

Diferentemente dos metadados, que ficam anexados ao arquivo, o SynthID modifica sutilmente a própria imagem, inserindo um padrão que pode ser detectado posteriormente por ferramentas especializadas.

Entre as vantagens dessa abordagem:

• O sinal pode sobreviver a compartilhamentos e conversões de formato comuns
• A aparência visual da imagem não muda
• Ferramentas de verificação conseguem detectar o padrão oculto

Pesquisas sobre o sistema indicam que bilhões de imagens e quadros de vídeo já receberam marcação SynthID em serviços do Google, mostrando que a tecnologia pode operar em grande escala.

Mesmo assim, o método também tem limitações. Edições pesadas, cortes, transformações ou tentativas deliberadas de remover o sinal podem reduzir sua eficácia, e a marca d’água só existe em imagens geradas por sistemas que optam por incluí‑la.

Metadados vs. marca d’água: forças e fraquezas

As duas abordagens ajudam a rastrear a origem de uma imagem, mas resolvem problemas diferentes.

Metadados (C2PA)

• Oferecem contexto detalhado sobre criação e edição
• São fáceis de ler por plataformas e softwares
• Podem ser removidos acidentalmente ou de forma intencional

Marca d’água invisível (SynthID)

• Fica embutida na própria imagem
• Tende a sobreviver a compartilhamentos e conversões
• Geralmente fornece um sinal mais simples e exige ferramentas específicas para detecção

Por isso, a OpenAI combina as duas tecnologias: os metadados fornecem contexto transparente, enquanto a marca d’água oferece maior resistência durante a distribuição do arquivo.

A ferramenta pública de verificação

Além dessas tecnologias, a OpenAI está apresentando uma ferramenta pública de verificação que permitirá enviar uma imagem para análise e verificar se ela contém sinais de origem associados aos sistemas da empresa.

A ferramenta procura dois indicadores principais:

• Metadados C2PA indicando geração por IA
• Marca d’água SynthID embutida na imagem

Se um desses sinais for encontrado, o sistema pode indicar que a imagem provavelmente foi criada por modelos da OpenAI, como os usados no ChatGPT ou em sua API.

É importante entender que a ausência desses sinais não prova que a imagem é real. Os metadados podem ter sido removidos ou a imagem pode ter sido gerada por outro sistema de IA que não utiliza esses métodos.

Por que isso importa

Com o crescimento rápido das ferramentas de IA generativa, criar imagens realistas nunca foi tão fácil. Em vez de tentar identificar automaticamente toda imagem falsa na internet, a estratégia da OpenAI aposta em fornecer contexto sobre a origem do conteúdo.

Ao combinar padrões abertos, marcação invisível e ferramentas públicas de verificação, a empresa tenta construir um ecossistema em que jornalistas, plataformas digitais e usuários comuns consigam investigar de onde veio uma imagem.

A conclusão principal é que a identificação de imagens geradas por IA provavelmente dependerá de vários sinais combinados — e da adoção dessas tecnologias por toda a indústria — em vez de um único teste definitivo.