O que é deepfake e por que é tão perigoso?

Deepfake é uma técnica de manipulação, usada principalmente em vídeos. Usando tecnologias de inteligência artificial e machine learning, é possível manipular um vídeo de forma a incluir uma pessoa que não estava de fato lá. E o pior: fazer essa pessoa falar coisas que ela na realidade não falou.

Nem preciso explicar muito para vermos o quão perigosa é essa tecnologia. Neste artigo temos a missão de explicar em detalhes o que é deepfake, quais os potenciais riscos da tecnologia, exemplos de uso e também como identificar se um vídeo é deepfake ou não.

Leia também
Impressionante! Inteligência artificial cria um vídeo seu usando apenas uma foto e um texto
O que é inteligência artificial?

A origem do deepfake

Quando vista pela primeira vez, a técnica de deepfake é realmente impressionante. Através de inteligência artificial, uma ferramenta pode trocar o rosto de pessoas em vídeos, sincronizar os movimentos dos lábios para combinar com um texto previamente escrito e ainda simular expressões faciais e outros detalhes.

Algumas ferramentas produzem resultados tão convincentes que uma pessoa leiga dificilmente identificaria a manipulação. No entanto, apesar de ter começado a ganhar popularidade nos últimos anos, essa técnica não é tão nova.

Esse tipo de manipulação já era feita antes. Porém, exigia um conhecimento bem avançado do usuário em diversas áreas. Mas isso começou a mudar em 2017, quando um usuário do Reddit, identificado como “deepfakes”, facilitou bastante o processo.

Utilizando ferramentas de código aberto, como Keras e TensorFlow, ele desenvolveu um algoritmo com o objetivo de treinar uma Rede Neural para mapear o rosto de uma pessoa no corpo de outra. A rede neural analisa o vídeo frame por frame. O desenvolvedor batizou a sua criação como Deepfake.

Celebridades e pessoas públicas são os alvos principais

A criação do “deepfakes” facilitou bastante esse processo de manipulação de vídeos, dispensando quase que totalmente a necessidade de edições manuais. A ferramenta criada pelo usuário do Reddit precisa apenas de uma fonte para reconhecer o modelo do rosto do “alvo”. Daí ela automaticamente mapeia a estrutura da cabeça e faz a sobreposição das imagens.

Inclusive, a ferramenta consegue até mesmo ajustar a movimentação do vídeo original ao novo rosto inserido nos frames. E isso inclui os movimentos labiais e as expressões faciais.

A coisa degringolou de vez quando outras pessoas criaram sistemas e até aplicativos capazes de automatizar todos os passos necessários para se fazer uma deepfake. Não demorou para a internet ser inundada por vídeos adultos envolvendo celebridades. Mas o uso do deepfake não descambou apenas para o lado sexual. Várias pessoas criaram deepfakes com atores “atuando” em filmes nos quais eles não participaram de verdade.

Até o Mark Zuckerberg já foi “vítima” de um deepfake. Muito bem produzido, diga-se de passagem. Neste vídeo postado no Instagram, o fundador do Facebook aparece falando o seguinte: “imagine isso por um segundo: um homem, com controle total de bilhões de dados roubados, todos os seus segredos, suas vidas, seu futuro. Eu devo tudo isso à Spectre. A Spectre me mostrou que quem controla os dados controla o futuro”.

Proliferação de ferramentas para criar deepfake

Atualmente, existem vários sites e aplicativos que possibilitam a criação de deepfakes. E absolutamente qualquer pessoa consegue usá-las, já que não é preciso ter nenhum conhecimento técnico.

Dentre os mais comuns estão o aplicativo Reface, os programas FaceApp e DeepFaceLab e os sites DeepSwap, DeepFakes Web e Creative Reality Studio. Esse último foi, inclusive, tema de um post publicado por aqui. Bem interessante por sinal.

O Creative Reality Studio, da empresa israelense D-ID, é a prova de como é fácil fazer um deepfake hoje em dia. Qualquer pessoa pode experimentar a ferramenta gratuitamente. Experimente! Garanto que você vai se surpreender. Por sorte, as empresas mais sérias aplicam uma série de filtros e limitações para evitar o uso nocivo, como difamações ou manipulações políticas.

Tipos de deepfake

Embora o termo deepfake esteja intimamente ligado a troca de rostos em vídeos, ele não se limita apenas a isso. A técnica também pode ser usada para manipular áudios. É possível, por exemplo, criar áudios com a voz bem similar à da vítima. Esse tipo de deepfake é mais facilmente compartilhável no WhatsApp ou outros mensageiros.

Outras ferramentas que usam inteligência artificial artificial conseguem criar textos falsos. Esses são os deepfakes textuais. Há também os deepfakes nas redes sociais. É quando alguém cria perfis falsos na internet querendo se passar por outra pessoa ou instituição.

E, acredite você ou não, há até ferramentas que possibilitam os deepfakes em tempo real. Um bom exemplo é o programa DeepFaceLive. Ele permite mudar o rosto de uma pessoa em uma transmissão ao vivo.

Os perigos do deepfake

Atualmente, o deepfake é usado para colocar pessoas públicas (artistas, celebridades e políticos) em situações atípicas, vergonhosas ou constrangedoras. Nesses casos, uma rápida pesquisa na internet pode elucidar o caso. Mas e se a técnica for usada para prejudicar pessoas comuns?

A primeira situação que me vem à mente é o porn revenge. Um homem com raiva do fim de um relacionamento pode colocar o rosto da ex-namorada em um vídeo pornô e “vazar” o vídeo para a família e amigos. Ou, então, alguém criar um deepfake seu defendendo coisas horrendas, como o nazismo ou a escravidão. Tipo o que aconteceu com o Monark.

Ou, pior ainda, alguém criar um deepfake para incriminá-lo por um crime que você não cometeu. Você pode até conseguir provar que o vídeo é falso, mas até lá você terá tido uma boa dor de cabeça para resolver. Enfim, tudo depende da criatividade do editor e do tamanho da raiva que ele está de você.

O deepfake já foi usado até nas Eleições 2022. A apresentadora do Jornal Nacional, Renata Vasconcellos, aparece em um vídeo muito bem produzido mostrando os dados de uma pesquisa de intenção de votos falsa. A voz, inclusive, é da própria jornalista. Esse deepfake pode facilmente chegar a um grupo do WhatsApp e ser compartilhado como verdade. Aumentando assim a desinformação e a proliferação de fake news.

Identificando um deepfake

É possível identificar um deepfake? Sim, é totalmente possível. Basta ter atenção aos detalhes. O primeiro passo, se você desconfia de manipulação no vídeo, é assisti-lo várias vezes. Se possível, coloque em uma velocidade mais lenta, para ficar mais fácil encontrar as falhas na edição.

Observe bem o rosto da pessoa. Veja como se movimentam os olhos, os lábios, a boca e até as sobrancelhas. Observe também o aspecto da pele. Será que ela não está lisa demais? Ou enrugada/granulada demais?

É praticamente impossível um deepfake não ter alguma falha ou característica “não natural”. Nosso cérebro é muito bom em encontrar esses padrões “não naturais” ou estranhos em uma pessoa.

E se ainda estiver em dúvida, faça uma pesquisa na internet sobre o assunto do vídeo, áudio ou texto. Fatalmente você encontrará matérias falando sobre o assunto em questão, seja desmentindo ou corroborando.

Como devo agir se for vítima de deepfake?

Infelizmente, o deepfake é uma tecnologia relativamente nova. Então, as leis ainda não estão totalmente adequadas a crimes envolvendo esse tipo de técnica. No entanto, é apenas uma questão de tempo para que novos mecanismos jurídicos e leis sejam criadas para proteger os cidadãos do uso indevido do deepfake.

Até lá, caso você tenha algum tipo de problema com deepfake, reúna todas as informações possíveis, entre em contato com um advogado ou com a Defensoria Pública. Eles saberão analisar o caso com mais propriedade e lhe orientar com respeito aos próximos passos.

De qualquer forma, a depender do conteúdo do deepfake, ele pode ser enquadrado em crimes já previstos em lei. Pode ser difamação, injúria, crimes contra a honra ou, em casos mais graves, até estelionato. Como eu disse, tudo vai depender do teor do deepfake.

Porém, é importante deixar claro que essa prática não é ilegal ou criminosa. É apenas uma ferramenta tecnológica que usa inteligência artificial e machine learning. A forma como se usa essa ferramenta é o que vai definir se é crime ou não.

O deepfake pode ser usado para fins legítimos, tais como gravar vídeos internos de uma empresa ou tutoriais ensinando os funcionários a usar uma determinada ferramenta da empresa. No entanto, fica claro que o termo deepfake é comumente associado a práticas ilegais e nocivas.