Olhar atentamente para uma imagem em busca de mãos deformadas, movimentos estranhos ou problemas de iluminação já foi uma maneira razoavelmente eficiente de desconfiar de conteúdos gerados por Inteligência Artificial. A evolução dos modelos generativos, porém, está reduzindo esses indícios.
Conforme imagens, vídeos e áudios sintéticos se aproximam do material captado no mundo real, a discussão sobre autenticidade ultrapassa aquilo que os olhos e ouvidos conseguem perceber. Agora, o critério precisa envolver informações sobre a procedência do arquivo.
Para Gabriel Pavão, executivo de Revenue Operations, especialista em RevOps e Inteligência Artificial aplicada aos negócios, professor e palestrante, essa é uma mudança de lógica. Em vez de perguntar apenas se determinado conteúdo “parece verdadeiro”, marcas, agências, veículos e usuários precisam começar a questionar de onde ele veio, quem participou de sua criação e quais alterações foram realizadas.
“Existe essa mudança de confiança baseada em percepção para a confiança baseada em procedência”, resume.
Content Credentials registram a procedência do conteúdo
É nesse cenário que ganham espaço os Content Credentials, mecanismo baseado no padrão técnico aberto desenvolvido pela Coalition for Content Provenance and Authenticity (C2PA) — padrão técnico aberto e um consórcio da indústria criado para certificar a origem e o histórico de edições de conteúdos digitais. A proposta é associar ao conteúdo informações verificáveis sobre sua origem e histórico de transformações.
Dependendo da implementação, as credenciais podem indicar a ferramenta utilizada na criação, as edições realizadas e a participação de sistemas de Inteligência Artificial, vinculando essas informações criptograficamente ao ativo. Diferentemente dos metadados tradicionais, que também podem armazenar dados sobre um arquivo, mas são facilmente modificados ou removidos, o padrão C2PA permite verificar a integridade das informações registradas.
Gabriel compara esse processo ao histórico de um veículo. Ao avaliar um carro usado, conhecer apenas sua aparência atual não revela toda a trajetória: origem, proprietários e intervenções anteriores também ajudam a compreender aquele bem. No conteúdo digital, a lógica é semelhante. “A gente não está falando apenas de colocar uma etiqueta dizendo: ‘Olha, foi feito por uma câmera ou foi feito por uma IA’. Estamos falando de construir uma cadeia verificável de procedência digital”, explica.
Essa lógica também evita reduzir a discussão a uma classificação binária entre conteúdos ‘com IA’ e ‘sem IA’: uma imagem inteiramente sintetizada e uma fotografia apenas corrigida com auxílio de Inteligência Artificial tiveram processos diferentes, embora ambas envolvam a tecnologia.
Metadados, marcas d’água e procedência cumprem funções diferentes
Content Credentials também não são a única tecnologia voltada à identificação de conteúdos sintéticos. Marcas d’água digitais podem inserir sinais visíveis ou imperceptíveis nos arquivos, enquanto sistemas de procedência registram informações sobre sua trajetória.
O SynthID, desenvolvido pelo Google DeepMind, por exemplo, incorpora sinais identificáveis em conteúdos gerados por ferramentas da companhia. Já os Content Credentials constroem um histórico verificável, mas também enfrentam um desafio: essa cadeia precisa sobreviver a uploads, conversões, edições e redistribuições — etapas nas quais metadados podem ser removidos.
Detectores de IA não funcionam como teste definitivo
Outra abordagem comum consiste em usar ferramentas que analisam um arquivo pronto e estimam se ele foi criado por Inteligência Artificial. Diferentemente das credenciais de procedência, explica Gabriel, esses sistemas geralmente procuram vestígios ou padrões estatísticos associados à geração artificial, sem necessariamente conhecer o histórico real daquele arquivo.
Alterações posteriores, novos modelos generativos e conteúdos híbridos podem modificar esses sinais, criando falsos positivos ou falsos negativos. “Esse tipo de sistema antifraude normalmente está fazendo uma inferência probabilística”, aponta. Por isso, a análise pode servir como evidência complementar, mas não como prova isolada.
“Confiar exclusivamente nisso vai gerar dois problemas: ou ele vai te dar um resultado positivo ou negativo; ou vai ser falso positivo ou falso negativo”, argumenta.
Autenticidade precisa entrar no processo de produção
Para marcas, agências e redações, o avanço desses mecanismos também cria uma questão operacional: verificar a procedência não pode significar acrescentar uma etapa manual para investigar cada arquivo publicado. Gabriel entende que o caminho passa pela integração da autenticidade à própria cadeia de produção.
Equipamentos de captura podem registrar informações de origem, ferramentas de edição podem acrescentar as transformações realizadas e sistemas de publicação podem preservar ou apresentar essas informações ao público. Em uma campanha que reúne marca, agência, produtora, creators e ferramentas generativas, saber quem produziu cada elemento e quais transformações ocorreram pode se tornar parte da própria governança da organização.
“Essa procedência precisa nascer junto com o conteúdo e não ser investigada apenas depois que surgir o problema”, defende.
O desafio é fazer com que essa cadeia sobreviva à circulação do arquivo. Uma câmera pode registrar a procedência, mas a informação perde valor se desaparecer no software de edição; da mesma forma, uma ferramenta pode preservar o histórico e a plataforma de distribuição deixar de apresentá-lo ao usuário.
É justamente essa necessidade de interoperabilidade que sustenta padrões abertos como o C2PA, permitindo que diferentes tecnologias participem do mesmo ecossistema sem depender de uma única plataforma.
Desinformação vai além da tecnologia
Mesmo com esses avanços, o especialista alerta que credenciais, marcas d’água ou detectores não criam uma “máquina da verdade”. O padrão C2PA verifica informações de procedência e sua integridade, não se aquilo que aparece em uma imagem ou vídeo é verdadeiro ou falso.
Uma gravação autêntica pode ser apresentada fora de contexto, enquanto um conteúdo sintético pode ser utilizado de forma transparente e legítima. Ou seja, a desinformação envolve também narrativa, interpretação e intenção.
É por isso que a expansão do conteúdo sintético tende a deslocar o debate. Com isso, a pergunta mais útil talvez deixe de ser “isso parece real?” ou mesmo “isso foi feito por IA?” para se tornar “eu consigo verificar de onde isso veio?”.
À medida que ferramentas generativas tornam a aparência um sinal cada vez menos confiável, a autenticidade passa a depender da construção de uma infraestrutura de procedência que acompanhe o conteúdo antes, durante e depois de sua publicação.
Gabriel Pavão é executivo de Revenue Operations, especialista em RevOps e Inteligência Artificial aplicada aos negócios, professor e palestrante. Com mais de 20 anos de experiência em tecnologia, vendas, growth e operações de receita, atua na interseção entre estratégia, dados, processos e inovação, ajudando empresas e lideranças a transformar tecnologia em decisões e crescimento previsível. É professor de RevOps na pós-graduação da Anhanguera e autor de ‘Além da Superfície’, tese que propõe uma nova forma de interpretar sinais, tecnologia e comportamento para antecipar movimentos de mercado. Também produz conteúdo sobre IA, RevOps, Creator Commerce e transformação dos negócios.
Para conhecer as tecnologias que apoiam estratégias como esta, acesse o Mapa de Martech da ColetivaTech, que reúne soluções brasileiras e referências internacionais organizadas por áreas de atuação.
