O avanço da Inteligência Artificial traz uma diversidade de benefícios para o mercado, porém conta também com as desvantagens dessa evolução nas mãos de pessoas de má fé. Um exemplo disso aconteceu nos últimos dias, quando imagens sexualmente explícitas geradas por IA envolvendo Taylor Swift no X (antigo Twitter) trouxe consequências para a empresa.
Como resposta, o X bloqueou por enquanto pesquisas com o nome da artista em sua plataforma.
Leia também:
Deepfakes crescem 830% no Brasil em um ano, aponta estudo
Deepfake usa imagem de Tom Hanks para vender plano odontológico; ator expôs o caso nas redes sociais
Deepfakes de Taylor Swift circularam no X
Nos últimos dias, o X (anteriormente Twitter) viu a circulação de imagens sexualmente explícitas geradas por inteligência artificial (IA) envolvendo a renomada artista Taylor Swift.
Uma das imagens mais proeminentes no X acumulou mais de 45 milhões de visualizações, 24.000 repostagens e centenas de milhares de curtidas e marcadores antes que o usuário verificado responsável pelas imagens tivesse sua conta suspensa por violar as políticas da plataforma.
É importante ressaltar que as políticas do X em relação a mídia sintética e manipulada, bem como nudez não consensual, proíbem explicitamente esse tipo de conteúdo. No entanto, mesmo com medidas proativas, as imagens permaneceram ativas por cerca de 17 horas antes de serem removidas, indicando um desafio significativo no controle desse tipo de conteúdo nas plataformas digitais.
Os fãs de Taylor Swift expressaram críticas ao X por permitir que muitas das postagens permanecessem ativas pelo tempo que ficaram disponíveis. Em resposta, os fãs adotaram uma estratégia de contra-ataque, inundando as hashtags usadas para circular as imagens com mensagens que promovem clipes reais de Swift se apresentando, numa tentativa de obscurecer as falsificações explícitas.
X (antigo Twitter) bloqueia pesquisas com nome da artista
Diante do acontecido, a plataforma postou a seguinte declaração:
Posting Non-Consensual Nudity (NCN) images is strictly prohibited on X and we have a zero-tolerance policy towards such content. Our teams are actively removing all identified images and taking appropriate actions against the accounts responsible for posting them. We're closely…
— Safety (@Safety) January 26, 2024
“Postar nudez não consensual (NCN) é estritamente proibido no X e temos uma política de tolerância zero em relação a tal conteúdo. Nossas equipes estão removendo ativamente todas as imagens identificadas e tomando as medidas apropriadas contra as contas responsáveis por postá-las. Estamos monitorando de perto a situação para garantir que quaisquer violações adicionais sejam imediatamente abordadas e o conteúdo removido. Estamos comprometidos em manter um ambiente seguro e respeitoso para todos os usuários.”
Porém, com a discussão sobre o assunto e sobre a postagem que se tornou viral, várias outras começaram a surgir na plataforma e serem repostadas, e muitas ainda estão até ativas, com muitas falsificações gráficas.
De acordo com um relatório da 404 Media, as imagens foram postadas inicialmente em um grupo de Telegram, onde os usuários costumam a postar imagens explícitas gradas por IA de mulheres usando principalmente o Microsoft Designer.
Em declaração ao Wall Street Journal no sábado, Joe Benarroch, que é chefe de operações comerciais do antigo Twitter, revelou que “Esta é uma ação temporária e feita com abundância de cautela enquanto priorizamos a segurança nesta questão.”
Vale ressaltar que o X está atualmente sob investigação pela União Europeia em relação a alegações de disseminação de conteúdo ilegal e desinformação. O incidente recente adiciona mais pressão sobre a empresa, destacando a necessidade de aprimorar suas políticas de moderação e respostas a crises.
O incidente destaca as complexidades envolvidas em lidar com deepfakes pornográficos e imagens geradas por IA de pessoas reais. Alguns geradores de imagens por IA possuem restrições para impedir a produção de conteúdo pornográfico ou fotorrealista envolvendo celebridades, mas muitos outros não oferecem essa salvaguarda.
O ônus de prevenir a disseminação de imagens falsas frequentemente recai sobre as plataformas de mídia social, algo que pode ser desafiador mesmo nas melhores circunstâncias e ainda mais difícil para plataformas que enfrentam limitações em suas capacidades de moderação.
Fontes: The Verge, The Wall Street Journal
Veja também
Sobre o Autor
Deixe seu comentário