Instagram está criando selo para identificar imagens que foram geradas por IA

Ao que tudo indica, o Instagram está trabalhando em novos recursos que permitiriam a identificação de quando a Inteligência Artificial (IA) é utilizada na criação de conteúdo na plataforma.

Essa iniciativa chega como compromisso da empresa para o desenvolvimento mais seguro e aberto sobre o uso da tecnologia em aplicativos e no geral.

Recurso vai identificar e avisar quando imagem for feita com IA

Quem trouxe a novidade foi Alessandro Paluzzi, um pesquisador de aplicativos conhecido por descobrir recursos do Instagram antes de serem oficialmente anunciados pela plataforma.

Ele postou uma captura de tela mostrando uma página dentro do aplicativo com a mensagem: “O criador ou Meta disse que este conteúdo foi criado ou editado com IA.” O aviso destaca que a imagem em questão foi “gerada pela Meta AI” e ainda mostra uma breve explicação sobre IA generativa e como identificar postagens que utilizam esse tipo de técnica.

https://twitter.com/alex193a/status/1685620855416467456?ref_src=twsrc%5Etfw%7Ctwcamp%5Etweetembed%7Ctwterm%5E1685620855416467456%7Ctwgr%5E7f292db78f88e06641f413a2ddecebdb86a15414%7Ctwcon%5Es1_&ref_url=https%3A%2F%2Fwww.theverge.com%2F2023%2F8%2F2%2F23816941%2Finstagram-generative-ai-labels-misinformation

A descoberta aconteceu logo após a empresa Meta (antiga Facebook), juntamente com outras grandes empresas de IA, como Google, Microsoft e OpenAI, assumirem compromissos com a Casa Branca para o desenvolvimento responsável da tecnologia. Um desses compromissos inclui a criação de um sistema de marca d’água para informar os usuários quando o conteúdo é gerado por IA.

Ainda não se sabe como esse sistema vai funcionar de verdade, ou seja, se ele será automático ou se vai depender da divulgação dos usuários sobre o uso de IA nas postagens. Porém, já que na frase da captura de tela eles usam o termo “Meta disse”, tudo indica que essa identificação acontecerá de forma proativa pela empresa, e não vai depender da sinalização dos usuários.

Esse tipo de iniciativa é importante e essencial hoje em dia com o desenvolvimento de IA, já que é mais do que certo o quanto uma desinformação gerada por esse tipo de tecnologia pode se espalhar com facilidade e ser maléfica.

Um exemplo claro disso aconteceu quando uma foto do papa usando uma jaqueta peculiar se tornou viral nas redes sociais no início do ano. A imagem já foi desmascarada como falsa, mas antes enganou muita gente e serviu como um alerta de que ferramentas simples de IA podem ser usadas para espalhar desinformação perigosa, especialmente quando aplicadas a imagens de satélite e fotografia política.

A Meta recentemente tornou público o código de seu poderoso modelo de linguagem LLaMA 2, porém ainda não lançou amplamente recursos de IA generativos direcionados aos usuários, como acontece com o Instagram.

Entretanto, já existem algumas evidências sobre o que a empresa estaria desenvolvendo com esses recursos. Durante uma reunião geral em junho, o CEO Mark Zuckerberg mencionou que estavam trabalhando em funcionalidades que permitiriam aos usuários modificar fotos para os Stories do Instagram usando sugestões de texto.

O pesquisador de aplicativos Paluzzi também encontrou indícios de um recurso chamado “pincel AI” para o Instagram, que possibilitaria “adicionar ou substituir partes específicas” em imagens. Recentemente, o Financial Times relatou que a Meta poderia anunciar um recurso de ‘personas’ de chatbot de IA em seus produtos já no próximo mês.

Mas a empresa não é a única nessa empreitada. O Goolgle também vem trazendo novidades no mercado de IA e já anunciou um novo recurso que visa facilitar a identificação do uso de IA em uma imagem por parte dos usuários. A ferramenta se chama “Sobre esta imagem”, deverá ser lançada em breve, e vai mostrar informações cruciais sobre as origens da imagem, destacando o primeiro lugar em que ela foi indexada pelo mecanismo de busca do Google.

Fonte: the verge