Investigação revela rede de 400 aplicativos que criavam deepfakes sexuais

Uma investigação publicada pela revista WIRED em 2 de novembro revelou uma rede de mais de 400 aplicativos e domínios que escondiam ferramentas capazes de criar imagens e vídeos sexualmente explícitos utilizando inteligência artificial. Os serviços se apresentavam como editores de fotografias, professores de idiomas e até aplicativos de exercícios físicos.

A descoberta foi realizada por pesquisadores da organização AI Forensics, que identificaram como os responsáveis conseguiam distribuir essas ferramentas pela Google Play Store e pela App Store, contornando mecanismos de fiscalização.

Segundo a WIRED, os aplicativos investigados já acumulavam mais de 350 mil downloads somente no Google Play. Um deles, chamado DiffAI, ultrapassou individualmente a marca de 100 mil instalações.

Aplicativos escondiam suas verdadeiras funções dos sistemas de segurança

O funcionamento da rede envolvia uma estratégia conhecida como bait-and-switch, na qual um aplicativo apresenta determinada funcionalidade durante a análise de segurança, mas posteriormente passa a oferecer recursos diferentes. Ao ser instalado, o aplicativo enviava informações para servidores externos, incluindo idioma, localização, identificador do dispositivo e origem do acesso.

Esses servidores decidiam qual interface seria apresentada. Dependendo das condições, o usuário encontrava um aplicativo comum ou uma plataforma oculta para produzir deepfakes sexuais. Um dos possíveis gatilhos era instalar o aplicativo após clicar em anúncios publicados no Facebook ou Instagram.

As ferramentas permitiam enviar fotografias de pessoas reais e inseri-las artificialmente em situações íntimas, incluindo representações de violência sexual. Os usuários podiam pagar por novas gerações utilizando moedas virtuais.

Rede utilizava anúncios no Facebook e Instagram para atrair usuários

A investigação relacionou a operação a desenvolvedores chineses e à empresa KeLing Technology Limited, registrada em Hong Kong. Após ser procurada pelos jornalistas, parte das referências públicas que associavam a companhia aos aplicativos desapareceu. A Meta afirmou que havia proibido a KeLing de anunciar em suas plataformas ainda em 2025, mas os responsáveis continuaram tentando divulgar os serviços por outros meios.

Desde então, a empresa declarou ter adotado medidas contra 11.600 contas de anúncios, 5.200 usuários e mais de 4.700 páginas comerciais, além de bloquear 209 aplicativos relacionados à rede. A Apple removeu 19 aplicativos após receber informações da WIRED. Já o Google havia retirado grande parte dos serviços identificados antes de ser procurado pela publicação.

Segundo a Apple, os aplicativos inicialmente respeitavam suas diretrizes, mas os desenvolvedores modificavam posteriormente os sites responsáveis por fornecer seu conteúdo. Em 16 de outubro de 2026, a companhia atualizou suas regras para reforçar a proibição de ferramentas que criam imagens íntimas sem consentimento e de aplicativos com funcionalidades ocultas.

Brasil e União Europeia reforçam combate aos deepfakes sexuais

O caso surge em um momento de endurecimento das legislações relacionadas ao uso abusivo de inteligência artificial. Na União Europeia, novas disposições da legislação de IA proíbem sistemas destinados a produzir conteúdos sexuais falsos sem consentimento. Segundo a Comissão Europeia, a proibição passa a ser aplicada em dezembro de 2026.

No Brasil, a Lei nº 15.487/2026, sancionada em agosto, ampliou a proteção de crianças e adolescentes contra a violência sexual digital. A legislação passou a mencionar expressamente o uso de inteligência artificial na simulação de conteúdo de violência sexual envolvendo menores de idade. A conduta prevista no artigo 241-C do Estatuto da Criança e do Adolescente pode resultar em pena de três a cinco anos de prisão, além de multa.

Apesar das remoções e medidas anunciadas, a WIRED constatou que anúncios semelhantes continuavam aparecendo nas plataformas durante a conclusão da investigação. O episódio evidencia uma dificuldade dos sistemas tradicionais de moderação: identificar aplicativos que aparentam ser legítimos durante a aprovação, mas posteriormente ativam funcionalidades proibidas por meio de servidores externos.

Fonte: Digitaltrends