Nos últimos anos, o Instagram tem enfrentado críticas sobre sua capacidade de proteger os jovens usuários online, especialmente em relação a questões como a promoção de material de abuso sexual infantil por meio de seu algoritmo.
No entanto, o Meta, empresa-mãe do Instagram, está lançando novos recursos na esperança de tornar a plataforma um ambiente mais seguro para todos os usuários, especialmente os mais jovens.
Leia também:
TikTok Notes será o rival do Instagram e pode ser lançado a qualquer momento
Meta rotulará conteúdos gerados por IA no Facebook, Instagram e Threads
Instagram quer impedir visualização de conteúdo impróprio
A preocupação com a segurança online de crianças e adolescentes tem sido uma questão prioritária em meio às crescentes preocupações com a exposição a conteúdo inadequado e ao risco de exploração online. Em resposta a essas preocupações, o Meta anunciou uma série de atualizações destinadas a proteger os usuários contra abuso de imagens íntimas e extorsão sexual, problemas significativos que têm afetado a comunidade online.
Uma das mudanças mais notáveis é a introdução da proteção contra nudez nas mensagens privadas. Esta ferramenta, desenvolvida utilizando aprendizado de máquina, será automaticamente ativada para usuários com menos de 18 anos.
Quando ativada, a ferramenta poderá detectar e borrar automaticamente imagens suspeitas de conter nudez, com o intuito de diminuir consideravelmente a chance desses jovens usuários serem expostos a conteúdo inapropriado. Ainda terá a opção de ver a foto, porém quando o usuário clicar nela, vai aparecer uma pop up com uma mensagem dizendo que ele não deve se sentir pressionado a responder, com dicas de segurança e até mesmo uma opção rápida para bloquear o remetente.
A empresa revelou ainda que a análise de conteúdo acontece no próprio dispositivo do usuário, o que significa que as mensagens continuarão contando com encriptação ponta a ponta, sem que a Meta tenha acesso a elas.
No caso da detecção de um usuário que queira enviar uma mensagem com imagem que contenha nudez, esse usuário vai receber um alerta para tomar cuidado ao compartilhar fotos sensíveis, enquanto destaca os potenciais riscos desse tipo de atividade. A mensagem também lembra que é possível apagar a mensagem mesmo depois de enviada antes que alguém a veja. Por fim, há um aviso final lembrando o usuário de ser responsável e respeitoso.
Detectando possíveis golpistas
Outro aspecto importante dessa atualização é o esforço para detectar possíveis golpistas ou extorsionistas e dificultar sua abordagem aos adolescentes. O Meta está direcionando solicitações de mensagem de possíveis atores mal-intencionados para uma área oculta, e qualquer pessoa envolvida em uma conversa receberá avisos sobre limites e etapas para denunciar usuários suspeitos.
Além disso, o Meta reforçou as restrições sobre quem pode enviar mensagens para adolescentes, impedindo que possíveis golpistas vejam a opção de iniciar uma conversa, mesmo que sigam mutuamente.
Fonte: engadget
Deixe seu comentário