Facebook anuncia ferramenta que identifica a origem de deepfake

Pesquisadores da área de inteligência artificial do Facebook anunciaram a criação de um novo software que reconhece e determina a fonte de mídias deepfake.

A ferramenta foi criada em parceria com a Universidade Estadual de Michigan, nos Estados Unidos, visando combater a futura ameaça que os vídeos e fotos deepfake podem representar.

Deepfake, caso você não saiba, são vídeos, ou imagens, que foram alteradas digitalmente utilizando inteligência artificial. Essas mídias são bastante realistas, dificultando que as pessoas determinem se são reais ou não.

De acordo com os pesquisadores do Facebook, esse software de inteligência artificial pode ser treinado para determinar se uma peça de mídia é deepfake apenas por um frame de vídeo.

Além disso, eles afirmaram que o software consegue identificar qual técnica de IA foi usada para criar o deepfake, independentemente de quão recente essa técnica for.

Facebook Deepfake — Imagens geradas via deepfake

Estudos anteriores conseguiram determinar qual modelo de inteligência artificial gerou um deepfake, mas a ferramenta, desenvolvida pela Universidade Estadual de Michigan e pelo Facebook, amplia essa capacidade ao identificar os traços da arquitetura digital de modelos ainda desconhecidos.

Esses traços são chamados de hiperparâmetros, sendo configurados em cada modelo de aprendizado de máquina, deixando uma “impressão digital” na imagem finalizada que pode ser utilizada para identificar a sua fonte.

Desse modo, essa ferramenta pode ajudar o Facebook a rastrear usuários maliciosos que espalham deepfake em suas redes sociais, como desinformação e pornografia não consensual.

Facebook x Deepfake

O Facebook iniciou sua guerra contra o deepfake em janeiro do ano passado, quando baniu a difusão desse tipo de mídia em todas as suas plataformas, que incluem o Instagram, o Messenger e o WhatsApp.

Tal Hassner, líder do time de pesquisa do Facebook, disse, em entrevista à CNBC, que a detecção de deepfakes é como uma brincadeira de “gato e rato”, salientando que os deepfakes estão cada vez mais fáceis de produzir e mais difíceis de rastrear.

Em junho do ano passado, o Facebook realizou um concurso que buscava encontrar a ferramenta de detecção de deepfake mais precisa. No entanto, o algoritmo vencedor só conseguiu detectar vídeos manipulados por IA em 65,15% das tentativas.

Portanto, ainda estamos longe de possuir uma ferramenta que seja completamente confiável ao detectar deepfakes. A razão disso é porque a área de mídia gerada por inteligência artificial é extremamente ativa, com novas técnicas surgindo todos os dias.