O progresso avassalador de ferramentas como o Stable Diffusion está redefinindo um mercado que vem ganhando força na internet há alguns anos, a venda de conteúdo sensual em packs. Há uma crescente no número de relatos de conteúdo erótico vendidos em fóruns como o Reddit que foram gerados através dessas ferramentas capazes de gerar quase qualquer tipo de imagem via comandos em texto.
Recentemente ganhou repercussão o caso de um perfil chamado Claudia que se passava por uma modelo erótica e anunciava a venda de nudes. Imagens que, na verdade, foram geradas pelo Stabble Diffusion. Aliada a softwares de edição, essas imagens podem ganhar um contexto ainda mais realista, e enganar muitos por aí.
No caso específico deste perfil intitulado Claudia, os responsáveis pela criação são dois estudantes de ciência da computação. O projeto foi iniciado apenas como um teste, uma brincadeira, mas acabou gerando lucro. Eles teriam faturado cerca de US$ 100 ao vender essas imagens para pessoas no Reddit.
Lembrando que estamos apenas na ponta do iceberg em relação ao progresso que acontecerá no campo do Deepfake. As ferramentas que geram conteúdos, sejam em vídeos ou fotos, com auxílio da inteligência artificial, irão progredir consideravelmente nos próximos anos, impulsionado pelo próprio desejo das Big Techs no protagonismo neste mercado. Nas palavras de Bill Gates, a inteligência artificial é tão importante quanto PC ou a internet.
Você também deve ler!
“Conversar com mortos” via Inteligência artificial, essa é a ideia da HereAfter AI
13 curiosidades sobre a inteligência artificial
Em declaração ao The Washinhston Post, um administrador de um hospital declarou que ele usa o Stable Diffusion para criar imagens de mulheres, e que aqueles que consomem este tipo de conteúdo não estão ligando muito se aquela imagem representa uma mulher real ou não, já que a compra desse conteúdo já parte de um princípio de tentar ter acesso a uma pessoa que não terá uma interação real, um encontro físico não irá acontecer. “Se eles são reais ou não, quem se importa realmente”?
Segundo pesquisas, entre 13% e 20% das buscas na internet são feitas à procura de pornografia, com o avanço de ferramentas relacionadas com a IA seguirá uma crescente entre um misto de conteúdo protagonizado realmente por humanos e imagens e vídeos gerados completamente por IA.
A Stability AI, a start-up de Londres responsável pelo Stable Diffusion, nos seus termos de uso, proíbe que a ferramenta seja utilizada para a criação de imagens obsceno, lascivo, ofensivo, pornográfico, indecente, vulgar, conteúdo fetichista, sobre violência, entre outros temas. No entanto, como a ferramenta também pode ser instalada localmente, o controle pode ser perdido.
No fim do mês passado, o Midjourney, ferramenta que também se destaca pela qualidade das imagens geradas, interrompeu o seu modo gratuito. Medida que faz parte de um conjunto de ações para tentar coibir a propagação de imagens falsas envolvendo personalidades, chefes de estado, e que tentem criar situações que não condizem com a realidade dos fatos.
Veja também
Sobre o Autor
Deixe seu comentário