A artificialidade espalhada pela web, baseada no número cada vez maior de conteúdo gerado por IA, está prejudicando a internet. Essa é a conclusão de um artigo científico assinado por 6 pesquisadores ligados ao laboratório DeepMind, empresa que pertence a Alphabet, holding que controla o Google.
Intitulado “Uso Indevido de IA generativa: uma taxonomia de táticas e percepções de dados do mundo real”, o artigo avaliou 200 táticas nocivas de utilização da IA generativa, compiladas entre janeiro de 2023 e março de 2024. Lembrando que IA generativa é o subcampo da inteligência artificial que lida diretamente com a criação de conteúdo baseado num treinamento prévio de dados, permitindo gerar novas opções de textos, imagens, sons, entre outros conteúdos.
O acúmulo de cada vez mais conteúdo gerado artificialmente tem impacto negativamente nessa percepção do que é real e do que é virtual. O artigo menciona que está acontecendo um “borrão nas fronteiras entre apresentações autênticas e enganatórias. Segundo um estudo publicado em 2023, a IA generativa já gerou mais imagens em um ano e meio do que câmeras já registraram em 150 anos.
Dentre as possibilidades de manipulação negativa recorrendo à IA generativa, o estudo da DeepMind cita:
- Manipulação da atividade humana;
- Falsificação de evidências;
- Manipulação de fatos para uso em fraudes.
A DeepMind diz que a expansão da manipulação de conteúdo falso, potencializado pelos recursos de IA, pode impactar diretamente a confiança, autenticidade e integridade de ecossistemas de informação, penalizando até mesmo plataformas de busca como o Google
A empress destaca que o uso de IA para criar deepfakes de políticos e celebridades é o principal uso malicioso para a tecnologia, liderando com 27% dos casos registrados. Isso mostra que o uso da manipulação sobre a realidade já ultrapassa o uso de IA apenas para auxiliar em ataques cibernéticos.
Como combater?
Além de uma questão tecnológica, como o investimento mais amplo em soluções que visem identificar que determinado conteúdo foi gerado por IA, o artigo menciona que é preciso uma abordagem multifacetada, com a contribuição de governo, especialistas da indústria, cientistas e a sociedade.
