Como descobrir se um vídeo é deepfake?

Deepfake é uma tecnologia impressionante, fascinante e, ao mesmo tempo, perigosa. Afinal, usar inteligência artificial e aprendizado de máquina para recriar expressões faciais em vídeo pode ser usado para objetivos bem escusos.

Para você ter ideia, a técnica de deepfake já foi usada para manipulação política, chantagem e até para prejudicar pessoas inocentes. Fora a criação de memes, que a internet adora, não é mesmo? Mas será que existe alguma maneira de descobrir se um vídeo é deepfake ou não? É sobre isso que iremos tratar neste artigo.

Leia também
Impressionante! Inteligência artificial cria um vídeo seu usando apenas uma foto e um texto
Facebook anuncia ferramenta que identifica a origem de deepfake

O que é deepfake?

Antes de mais nada, vamos esclarecer o que é deepfake. Nós já temos um artigo bem completo sobre isso. Ele não só explica o que é o deepfake como mostra todas as implicações perigosas dessa técnica. Caso queira se aprofundar um pouco mais neste tema, basta ler o artigo abaixo:

• O que é deepfake e por que é tão perigoso?

De qualquer forma, segue abaixo uma explicação mais resumida. Basicamente, deepfake é uma técnica que usa inteligência artificial e aprendizado de máquina para trocar o rosto de pessoas em vídeos.

Então, por meio dessa técnica, é possível colocar qualquer pessoa em um local que ela não estava, falando coisas que ela realmente não disse. Atualmente, o deepfake pode ser combinado com técnicas de clonagem de voz e manipulações de vídeo diversas. Algumas ferramentas produzem um resultado tão natural e convincente que fica difícil saber se é um vídeo manipulado ou não.

O deepfake é usado para os mais variados objetivos. Desde fins humorísticos, como a criação de memes ou coisas parecidas, até fins ilegais. Alguns exemplos são revenge porn ou difamação.

Por exemplo, em março, surgiu um deepfake onde o presidente da Ucrânia, Volodymyr Zelensky, pedia aos cidadãos para baixarem as armas e se renderem. A repercussão foi tamanha que o próprio Zelensky teve que vir à público e dizer que se tratava de um deepfake.

Descobrindo se um vídeo é deepfake

Pois bem, agora que você já sabe o que é um deepfake e todos os perigos que essa tecnologia traz, chegou a hora de descobrirmos como identificar um deepfake.

Existem programas que identificam deepfake?

Infelizmente, não. Hoje em dia há programas/aplicativos para tudo, não é mesmo? Mas ainda não é possível desenvolver um para identificar deepfakes. No entanto, já existem algumas pesquisas nessa área. A Meta, por exemplo, está desenvolvendo uma ferramenta que usa engenharia reversa para identificar deepfakes.

Mas esse é um desafio tecnológico difícil de ser vencido. O motivo para isso se resume em três letras: GAN (Generative Adversarial Networks). Em tradução livre é algo como “Redes Adversárias Generativas. Na prática, estamos falando de redes neurais.

Em uma GAN, uma ferramenta que é baseada em redes neurais gera milhões de imagens com pequenas modificações entre si. Por exemplo, imagine que uma ferramenta gere milhões de “versões” de um mesmo rosto. Um segundo mecanismo, também baseado em redes neurais, tenta descobrir se as sequências de imagens são falsas. Se a ferramenta não chegar a nenhum resultado conclusivo, é porque o deepfake está convincente o suficiente.

Esse método de criação de deepfakes é bem eficiente. A interação entre as GANs resulta em várias tentativas, todas elas aprimorando ainda mais o resultado final. Por isso é tão difícil para um software identificar um “clone digital”.

O jeito é usar o bom e velho cérebro humano

Já que ainda não existem softwares capazes de identificar deepfakes, o jeito é usarmos a nossa própria rede neural, chamada cérebro. Felizmente, nosso cérebro é muito bom em identificar padrões. E sempre que enxergamos algo fora do padrão, isso logo nos salta aos olhos.

Portanto, uma boa dica para identificar deepfake é observar os olhos da pessoa. Se o olhar parecer meio perdido, como se a pessoa não estivesse olhando para uma câmera ou para outras pessoas, é um forte sinal que se trata de um deepfake.

Outra dica que pode ajudar é observar com atenção os movimentos dos lábios e até da cabeça do indivíduo. Uma abertura de lábios exagerada ou que não condiz com a palavra que está sendo dita pode denunciar a manipulação. Ou, então, movimentos de cabeça muito bruscos ou não-naturais.

Neste artigo da Kaspersky, a empresa de segurança digital também elenca outros detalhes nos quais devemos ficar de olho para identificar um deepfake:

• movimentos bruscos;
• iluminação da cena que muda de um quadro para o outro;
• mudança no tom da pele;
• piscada estranha de olhos ou nenhum piscar;
• lábios mal sincronizados com a fala;
• elementos digitais (artefatos) na imagem.

Mas não se engane achando que é fácil. As ferramentas de criação de deepfake estão se aprimorando cada vez mais. Graças aos aprendizados da inteligência artificial e das redes neurais. Porém, seguindo as dicas acima, você já consegue identificar a maioria dos deepfakes gerados atualmente.