MPF e ANPD ameaçam multar X por falhas de segurança na IA

O cerco fechou novamente para o X no Brasil. Desta vez, o alvo não é apenas a moderação de conteúdo, mas a própria tecnologia de Inteligência Artificial da plataforma. O Ministério Público Federal (MPF), a ANPD e a Senacon emitiram um ultimato conjunto exigindo que a empresa adote medidas eficazes imediatas contra a geração de deepfakes.

A decisão foca especificamente no Grok, a IA generativa integrada ao X, que tem sido utilizada para criar imagens sexualizadas e erotizadas de pessoas (incluindo menores de idade) sem consentimento.

Por que o Ultimato?

As autoridades brasileiras perderam a paciência. Em janeiro, o X havia enviado uma resposta sobre o problema, alegando ter removido milhares de posts e suspenso contas. No entanto, o MPF e a ANPD consideraram as explicações “genéricas” e insuficientes. Testes técnicos realizados pelos próprios órgãos mostraram que, apesar das promessas de Elon Musk, o Grok continua gerando conteúdo manipulado proibido quando provocado, provando que as travas de segurança da IA são falhas.

Exigência de Dados Reais

Agora, a empresa tem 5 dias úteis para parar de enrolar e apresentar provas técnicas. As autoridades não querem apenas notas de RP; elas exigem:

• Relatórios Métricos Detalhados: Quantas imagens foram bloqueadas? Qual o tempo médio de resposta?

• Critérios Claros: Como o algoritmo decide quem é banido?

• Monitoramento Mensal: O X terá que enviar relatórios constantes para provar que a situação não voltou a piorar.

Se a plataforma falhar em entregar esses dados ou se o Grok continuar “solto”, a ANPD (Autoridade Nacional de Proteção de Dados) pode aplicar multas diárias pesadas, enquanto a Senacon pode abrir processos administrativos baseados no Código de Defesa do Consumidor. O caso pode se tornar um marco na regulação de IAs generativas no Brasil, estabelecendo que plataformas são, sim, responsáveis pelo que seus robôs criam.