IA generativa de adesivos do Meta está criando imagens bem controversas e impróprias
#notícias
A Meta anunciou recentemente o lançamento de uma nova ferramenta de adesivos gerados por inteligência artificial (IA) para alguns dos seus serviços, como o Facebook Messenger e o WhatsApp.
O novo recurso está em fase de testes, e por isso a empresa já tinha deixado claro que é possível que ele gere imagens impróprias. Por isso, há uma opção para denunciar essas criações. Porém, algumas pessoas estão se divertindo com elas, realmente.
Um usuário, identificado como @Pioldes, é uma delas. Ele foi um dos usuários que ganharam acesso à nova ferramenta de adesivos gerados por IA para testes e usou-a para criar uma série de imagens de adesivos inapropriados.
Isso incluiu representações de soldados crianças, personagens da Nintendo empunhando armas, o icônico Mickey Mouse em situações desagradáveis e ilustrações nuas do primeiro-ministro canadense Justin Trudeau.
Além disso, outros exemplos demonstraram que a ferramenta de adesivos de IA da Meta está disposta a adicionar elementos controversos a qualquer imagem, como foi visto ao adicionar seios a personagens como Sonic the Hedgehog e até mesmo a figura histórica Karl Marx.
Esses adesivos de bate-papo gerados por IA foram anunciados durante o evento Connect da Meta e são alimentados pelo modelo de linguagem Llama 2 da empresa.
Esses adesivos estão sendo lançados gradualmente para “usuários de língua inglesa selecionados” em várias plataformas da Meta, incluindo Facebook Stories, Instagram Stories e DMs, Messenger e WhatsApp. Ainda não se sabe ao certo exatamente quantas pessoas têm acesso ao novo recurso.
Os testes iniciais revelaram que certas palavras estão bloqueadas pela Meta, e os usuários que tentam usá-las em suas descrições recebem avisos de que sua descrição pode violar as diretrizes da comunidade da empresa.
A Meta, ciente desses problemas iniciais, está buscando um lançamento limitado da funcionalidade de adesivos gerados por IA. Isso permitirá que a empresa identifique e corrija abusos e conteúdo inadequado antes que ele se espalhe amplamente entre os usuários.
É possível afirmar que a nova ferramenta de adesivos gerados por IA da Meta tem o potencial de revolucionar a forma como os usuários interagem com adesivos em suas plataformas, tornando a criação de adesivos personalizados mais acessível.