O cerco fechou novamente para o X no Brasil. Desta vez, o alvo não é apenas a moderação de conteúdo, mas a própria tecnologia de Inteligência Artificial da plataforma. O Ministério Público Federal (MPF), a ANPD e a Senacon emitiram um ultimato conjunto exigindo que a empresa adote medidas eficazes imediatas contra a geração de deepfakes.
A decisão foca especificamente no Grok, a IA generativa integrada ao X, que tem sido utilizada para criar imagens sexualizadas e erotizadas de pessoas (incluindo menores de idade) sem consentimento.
Por que o Ultimato?
As autoridades brasileiras perderam a paciência. Em janeiro, o X havia enviado uma resposta sobre o problema, alegando ter removido milhares de posts e suspenso contas. No entanto, o MPF e a ANPD consideraram as explicações “genéricas” e insuficientes. Testes técnicos realizados pelos próprios órgãos mostraram que, apesar das promessas de Elon Musk, o Grok continua gerando conteúdo manipulado proibido quando provocado, provando que as travas de segurança da IA são falhas.
Exigência de Dados Reais
Agora, a empresa tem 5 dias úteis para parar de enrolar e apresentar provas técnicas. As autoridades não querem apenas notas de RP; elas exigem:
-
Relatórios Métricos Detalhados: Quantas imagens foram bloqueadas? Qual o tempo médio de resposta?
-
Critérios Claros: Como o algoritmo decide quem é banido?
-
Monitoramento Mensal: O X terá que enviar relatórios constantes para provar que a situação não voltou a piorar.
Se a plataforma falhar em entregar esses dados ou se o Grok continuar “solto”, a ANPD (Autoridade Nacional de Proteção de Dados) pode aplicar multas diárias pesadas, enquanto a Senacon pode abrir processos administrativos baseados no Código de Defesa do Consumidor. O caso pode se tornar um marco na regulação de IAs generativas no Brasil, estabelecendo que plataformas são, sim, responsáveis pelo que seus robôs criam.
