Deepfakes estão ficando tão realistas que podem ameaçar provas judiciais, alertam OpenAI e Meta

O Judiciário americano recebeu um alerta que, embora não seja exatamente surpreendente, tem um peso diferente quando vem de quem constrói as ferramentas: representantes da OpenAI e da Meta disseram a integrantes do sistema judicial dos Estados Unidos que os deepfakes estão evoluindo em velocidade suficiente para comprometer, de forma estrutural, a análise de provas audiovisuais em julgamentos.

O aviso foi dado durante uma reunião em Boston do Comitê Consultivo sobre Regras de Provas da Conferência Judicial dos Estados Unidos, grupo que desde 2023 debate como os tribunais devem lidar com evidências potencialmente fabricadas por IA.

Indistinguível do real: o ponto de não retorno

Shira Anderson, advogada de políticas públicas da OpenAI, foi direta ao ponto: “As imagens de IA estão cada vez melhores, e não acho que haverá uma maneira científica de detectá-las no futuro.” É uma afirmação relevante por sua fonte: não é um pesquisador acadêmico projetando um cenário hipotético, é uma representante da empresa que produz parte dessas ferramentas reconhecendo publicamente a limitação dos próprios mecanismos de controle.

Devin Norder, diretor de gerenciamento de produtos da Meta, reforçou o diagnóstico com um dado igualmente preocupante: conteúdos produzidos pelos modelos de IA mais avançados já podem ser indistinguíveis, para observadores humanos, de mídias autênticas ou de outros materiais gerados artificialmente.

Norder também destacou que o custo e o tempo necessários para criar esse tipo de conteúdo são muito baixos, o que amplia dramaticamente o risco de que materiais fabricados entrem em processos judiciais como provas legítimas.

Os números ainda não assustam, mas o horizonte sim

O Centro Judicial Federal dos Estados Unidos informou, em março, que apenas 15 dos 931 juízes que responderam a uma pesquisa haviam enfrentado casos em que uma das partes questionou provas suspeitas de serem deepfakes.

Jesse Furman, juiz federal de Manhattan e presidente do comitê, reconheceu que os casos concretos ainda são limitados, embora haja um volume significativo de análises acadêmicas sobre o tema. Na reunião de quinta-feira, Furman nomeou um subcomitê para aprofundar o estudo do problema, sinalizando que o Judiciário não pretende esperar os casos explodirem para só então agir.

Marcas d’água, padrões fragmentados e um buraco no meio

Tanto OpenAI quanto Meta desenvolvem ferramentas de verificação de autenticidade, e legislações recentes na Califórnia e na União Europeia já exigem o uso de marcas d’água digitais em conteúdos gerados por IA. O problema estrutural, porém, é que não existe um padrão universal para leitura dessas marcas.

Cada empresa adota seu próprio sistema, o que torna a verificação cruzada pouco confiável na prática. Anderson ainda ponderou que os mecanismos de identificação devem continuar evoluindo, mas não serão totalmente infalíveis, uma ressalva que, no contexto de um tribunal, equivale a dizer que a dúvida razoável pode ser fabricada sob demanda.

O Judiciário na corda bamba entre cautela e urgência

Valerie Caproni, juíza federal de Manhattan e integrante do comitê, adotou uma postura mais conservadora: para ela, ainda faltam dados que comprovem que deepfakes se tornaram um problema disseminado nos tribunais.

Caproni também lembrou que as normas vigentes já proíbem a apresentação de provas fraudulentas e permitem que juízes avaliem a autenticidade de materiais. A lógica é defensável para o cenário atual, mas ignora uma assimetria fundamental: a velocidade de evolução dos modelos generativos está numa curva incompatível com o ritmo de atualização de marcos regulatórios.

Em 2026, a questão central não é mais se os deepfakes são bons o suficiente para enganar um perito. A pergunta que o Judiciário precisa responder agora é como estabelecer um padrão em um ambiente onde a autenticidade de uma mídia não pode ser certificada de forma universal, onde o custo de produção de uma evidência falsa é irrisório e onde as próprias empresas que desenvolvem as ferramentas admitem que a detecção científica pode não ser viável.

Fonte: Olhar Digital