Nos últimos dois anos, o site do Pornhub no Reino Unido implementou com sucesso um chatbot e mensagens de aviso que interromperam mais de 4 milhões de buscas por conteúdo de abuso sexual infantil (CSAM).
O programa piloto, desenvolvido em parceria com duas organizações britânicas de proteção à infância, tinha como objetivo avaliar se intervenções mínimas poderiam dissuadir usuários de procurar material ilegal. Um relatório exclusivo compartilhado com a WIRED revela que a iniciativa resultou em uma redução significativa nas buscas e incentivou muitas pessoas a procurarem apoio para seu comportamento.
Leia também:
Elon Musk revela Grok, novo chatbot rebelde e com senso de humor
Nada de pornô em VR: usuários furiosos chamam Apple Vision Pro de ‘cinto de castidade de US$ 3,5 mil’
Chatbot garante “redução significativa” das buscas
Durante o teste, cada uma das 4,4 milhões de vezes em que termos ou frases relacionados ao abuso infantil foram inseridos, uma mensagem de aviso bloqueou a página, alertando sobre a ilegalidade desse tipo de conteúdo.
Em metade dos casos, um chatbot também orientou os usuários sobre onde buscar ajuda. O líder da avaliação do Chatbot reThink, Joel Scanlan, destaca a eficácia das mensagens de dissuasão, observando uma “redução significativa” ao longo do período do teste.
A pornografia infantil é um problema grave na internet, com milhões de imagens e vídeos sendo removidos anualmente. Empresas de tecnologia e pornografia, incluindo o Pornhub, têm políticas rígidas contra conteúdo ilegal, mas a eficácia na remoção varia.
O Pornhub, de propriedade da Aylo, emprega uma lista de 34.000 termos proibidos para bloquear buscas de material de abuso infantil, como parte de seus esforços para garantir a segurança do usuário.
O chatbot em questão foi desenvolvido pela Internet Watch Foundation (IWF) e pela Lucy Faithfull Foundation, organizações sem fins lucrativos dedicadas à remoção de CSAM da web e prevenção do abuso infantil, respectivamente. Durante o teste, o chatbot apareceu 2,8 milhões de vezes ao lado das mensagens de aviso. Embora a maioria das pessoas tenha encontrado o aviso e o chatbot apenas uma vez, isso foi suficiente para encorajar muitos a buscar ajuda.
Pornhub mantém o chatbot ativo mesmo depois do término de testes
Donald Findlater, diretor da linha direta Stop It Now, destaca o sucesso do projeto, considerando os números “relativamente modestos” em comparação com o total de avisos exibidos.
Ele observa que as interações significam que as pessoas podem estar dispostas a buscar ajuda. O relatório também revela que o tráfego da web encaminhado para o site do Stop It Now parecia diminuir ao longo do tempo, indicando uma possível mudança de comportamento entre os usuários.
Cynthia Najdowski, professora associada de psicologia na Universidade Estadual de Nova York em Albany, revelou que o chatbot pode representar uma tentativa promissora de impedir os esforços de algumas pessoas para acessar esse tipo de conteúdo. Ela destaca a importância de fornecer conhecimento legal e criar uma percepção de custo para dissuadir comportamentos criminosos online.
Apesar do término do período de teste, o chatbot e as mensagens de aviso permanecem ativos no site do Pornhub no Reino Unido. Os envolvidos no estudo esperam que outras empresas, incluindo redes sociais e plataformas de hospedagem de arquivos, possam considerar resultados semelhantes e implementar iniciativas para dissuadir a busca por conteúdo ilegal, contribuindo para a criação de um ambiente online mais seguro para todos.
Fonte: wired
Veja também
Sobre o Autor
Deixe seu comentário