Deputada acusa IA que gera imagens de “racismo algorítmico”

A deputada estadual Renata Souza (PSOL-RJ) aderiu a uma trend que tem ganhando repercussão nas redes sociais. Imagens no estilo de arte característico da Disney/Pixar geradas por inteligência artificial. Inclusive, temos um artigo aqui no Hardware.com.br em que mostramos como isso pode ser feito.

No entanto, a parlamentar usou seu perfil no X (ex-Twitter) para manifestar sua posição contrária a uma imagem gerada por IA.

Na visão de Renata, ela sofreu um “racismo algorítimo”. Foi dessa forma que a deputada usou para classificar o resultado entregue após ela pedir uma imagem que mostrasse uma mulher inspirada nas suas características em uma favela. A imagem gerada manteve as características físicas e do ambiente discriminado no prompt, mas acrescentou uma arma na mão da personagem. Item que gerou a revolta na deputada do PSOL-RJ.

Racismo algorítmico!

Ao criar uma arte inspirada nos pôsteres da Disney, me deparei com uma imagem gerada a partir de Inteligência Artificial que me retratava como uma mulher negra com uma arma na mão. A descrição pedida era de uma mulher negra, de cabelos afro, com roupas de… pic.twitter.com/Eq84l9gBbU

— Renata Souza (@renatasouzario) October 26, 2023

“Ao criar uma arte inspirada nos pôsteres da Disney, me deparei com uma imagem gerada a partir de Inteligência Artificial que me retratava como uma mulher negra com uma arma na mão. A descrição pedida era de uma mulher negra, de cabelos afro, com roupas de estampa africana num cenário de favela. E essa foi a imagem gerada. Não pode uma mulher negra, cria da favela, estar num espaço que não da violência? O que leva essa ‘desinteligência artificial’ a associar o meu corpo, a minha identidade, com uma arma?”, disse Renata em seu post nas redes sociais.

A deputada também pontou que a imagem representa a reprodução da estrutura racista que  se dá em todos os espaços e ferramentas. “Não há isenção ou imparcialidade, é claramente racismo algorítmico. Enquanto presidenta da CPI do Reconhecimento Fotográfico, observo o quanto pessoas negras podem ser vitimadas por mecanismos, como o reconhecimento facial, mesmo sendo inocentes”, continua.

Renata acrescentou que o imaginário de violência nas favelas e de criminalização de corpos e territórios negros também está presente em tecnologias, o que coloca em risco a segurança de pessoas negras. “É preciso rever essas tecnologias e procedimentos”, finalizou.

Em sua postagem, a deputada não especificou qual ferramenta foi utilizada para gerar a tal imagem que serviu de destaque para o post, e também não mostrou um print com o prompt utilizado na solicitação da imagem.

Entre as opções capazes de gerar imagens com o estilo de arte da Disney/Pixar,  a ferramenta geracional integrada ao Bing tem sido a mais mencionada. O Bing Image Creator utiliza a capacidade geracional do Dall-E 3, fornecido pela Open AI, parceiro da Microsoft, e que também é responsável pelo ChatGPT.