China faz primeira prisão relacionada ao uso do ChatGPT para criação de fake news

Em um marco sem precedentes, a China efetuou a primeira prisão relacionada ao uso do ChatGPT, a popular ferramenta de inteligência artificial desenvolvida pela OpenAI. O homem utilizou o chatbot para a criação e disseminação de notícias falsas.

O incidente ocorreu em meio a um cenário de crescente regulamentação da IA gerativa no país, com foco na regulação de conteúdo. Caso você não saiba, a China é também um dos primeiros países do mundo a regulamentar o uso de ferramentas de inteligência artificial generativa.

Leia também
PL das Fake News pode ‘limitar liberdade de expressão’, diz Google
Projeto de lei das fake news é “assassinato da internet moderna”, diz Telegram

Chinês usou ChatGPT para criar fake news sobre um acidente de trem

O suspeito, identificado apenas pelo sobrenome Hóng, é acusado de utilizar o gerador de texto alimentado por IA para criar artigos de notícias que foram classificados como “informações falsas” pelas autoridades.

A história que levou Hóng a ser detido descrevia um acidente de trem fatal que teria matado nove pessoas na província de Gansu. A polícia localizou a empresa de mídia social de Hóng na cidade de Dongguan, na província de Guangdong, e efetuou a prisão em 5 de maio.

Hóng teria confessado que a história do acidente de trem foi gerada pelo ChatGPT a partir de prompts sobre notícias populares na China nos últimos anos. Ele também admitiu que diferentes versões do artigo foram criadas para contornar a função de verificação de duplicação da plataforma Baijiahao, operada pela gigante da tecnologia chinesa Baidu.

China é pioneira na regulamentação de IAs generativas

A prisão de Hóng é a primeira do tipo desde que a China implementou novas regulamentações sobre a tecnologia de inteligência artificial em janeiro. A legislação, conhecida como “Provisões sobre a Administração de Serviços de Informação da Internet de Síntese Profunda“, é a primeira tentativa da China de regulamentar deepfakes.

Essa tecnologia é definida pelos legisladores chineses como tecnologias que usam “aprendizado profundo, realidade virtual e outros algoritmos sintéticos para produzir texto, imagens, áudio, vídeo, cenas virtuais e outras informações de rede“.

A Administração do Ciberespaço da China (CAC) também revelou um novo conjunto de diretrizes preliminares sobre serviços de IA gerativa como o ChatGPT em abril. As regras propostas exigem que os desenvolvedores de IA garantam que o conteúdo gerado possua “os valores centrais do socialismo” e não “incite a subversão do poder do Estado” ou prejudique a unidade nacional.

Inteligência artificial e Fake News é um combo perigoso

A prisão de Hóng e a crescente regulamentação da IA gerativa na China destacam a complexa interseção entre tecnologia, liberdade de expressão e controle estatal na era digital.

Enquanto a China continua a navegar nesse território inexplorado, o caso de Hóng serve como um lembrete poderoso das implicações legais e éticas do uso de IA na criação e disseminação de informações.

Recentemente, a badalada ferramenta de criação de imagens por inteligência artificial, o Midjourney, acabou com o acesso gratuito. A motivação para isso foi justamente a criação de fake news. A plataforma gera imagens tão realistas que acabam enganando diversas pessoas, como essas imagens do Papa, do Donald Trump e do presidente da França.

Fonte: The China Project