A Meta foi notificada oficialmente pela Advocacia-Geral da União (AGU) nesta segunda-feira (18) para remover imediatamente chatbots de inteligência artificial que simulam crianças, mas permitem conversas de teor sexual com usuários. A medida representa um novo capítulo nos desafios de moderação de conteúdo enfrentados pela empresa de Mark Zuckerberg no Brasil, em meio às crescentes preocupações com a segurança infantil online.
Os chatbots problemáticos foram desenvolvidos por usuários comuns através do Meta AI Studio, ferramenta disponibilizada pela própria empresa para criação de robôs conversacionais personalizados que podem ser utilizados em suas plataformas como Instagram e Facebook.
A ação foi tomada pela Procuradoria Nacional da União de Defesa da Democracia (PNDD), após solicitação da Secretaria de Comunicação Social da Presidência da República (Secom). O caso ganhou urgência depois que investigações jornalísticas da Reuters e do Núcleo Jornalismo revelaram como inteligências artificiais da Meta permitiam interações sexualmente explícitas com perfis caracterizados como infantis.
No documento enviado à empresa, a AGU destaca a contradição entre as políticas oficiais da Meta e a realidade encontrada em suas plataformas. Embora a companhia permita acesso de usuários a partir dos 13 anos e proíba explicitamente conteúdos de exploração sexual infantil em seus “Padrões da Comunidade”, a notificação aponta falhas graves nos sistemas de filtragem que deveriam impedir que menores de 18 anos tivessem contato com material erótico.
Impacto e riscos dos chatbots problemáticos
A notificação extrajudicial enviada à Meta vai além da simples exigência de remoção de conteúdo. O documento solicita esclarecimentos detalhados sobre as medidas de proteção implementadas para crianças e adolescentes nas plataformas da empresa, reconhecendo o potencial dano que tais ferramentas mal reguladas podem causar.
“Tais chatbots têm potencialidade de alcançar um público cada vez mais amplo nas plataformas digitais, especialmente nas redes sociais da Meta, ampliando, de forma exponencial, o risco do contato de menores de idade com material sexualmente sugestivo e potencialmente criminoso”, afirma trecho da notificação da AGU, destacando o “risco concreto à integridade psíquica de crianças e adolescentes”.
A situação é ainda mais grave considerando o alcance das plataformas da Meta no Brasil, onde milhões de adolescentes utilizam diariamente o Instagram, Facebook e WhatsApp. A presença desses chatbots inadequados representa não apenas uma violação das próprias políticas da empresa, mas também do direito constitucional à proteção integral de crianças e adolescentes, garantido pelo artigo 227 da Constituição Federal brasileira.
O caso chama atenção também para os riscos da democratização das ferramentas de criação de IA. Enquanto o Meta AI Studio foi concebido para permitir que usuários comuns criem experiências personalizadas, a falta de supervisão adequada abriu espaço para usos problemáticos da tecnologia.
Respaldo legal e perspectivas
A notificação da AGU ganha força adicional ao mencionar a recente decisão do Supremo Tribunal Federal (STF) sobre a constitucionalidade do artigo 19 do Marco Civil da Internet. O tribunal definiu que plataformas digitais podem ser responsabilizadas por conteúdos de terceiros quando, após tomarem conhecimento inequívoco de práticas ilícitas, não removerem o material imediatamente.
Este entendimento jurídico reforça a posição da AGU e aumenta a pressão sobre a Meta para agir rapidamente no caso dos chatbots problemáticos. A empresa ainda não se pronunciou oficialmente sobre a notificação, mas o precedente legal estabelecido pelo STF sugere que a companhia terá pouca margem para postergar ações concretas.
Para especialistas em segurança digital infantil, o caso evidencia a necessidade de maior rigor na moderação de ferramentas de IA, especialmente aquelas acessíveis ao público geral. A proliferação de chatbots que simulam crianças em contextos sexualizados representa não apenas um problema técnico de moderação, mas também um desafio ético sobre os limites da liberdade criativa em plataformas digitais quando esta colide com a proteção de grupos vulneráveis.
A AGU deu prazo para que a Meta responda às exigências, mas não especificou publicamente qual seria esse limite temporal. A expectativa é que a empresa implemente mudanças significativas em seus sistemas de moderação para impedir a criação de novos chatbots problemáticos, além de remover os já existentes.