China faz primeira prisão relacionada ao uso do ChatGPT para criação de fake news

China faz primeira prisão relacionada ao uso do ChatGPT para criação de fake news

Em um marco sem precedentes, a China efetuou a primeira prisão relacionada ao uso do ChatGPT, a popular ferramenta de inteligência artificial desenvolvida pela OpenAI. O homem utilizou o chatbot para a criação e disseminação de notícias falsas.

O incidente ocorreu em meio a um cenário de crescente regulamentação da IA gerativa no país, com foco na regulação de conteúdo. Caso você não saiba, a China é também um dos primeiros países do mundo a regulamentar o uso de ferramentas de inteligência artificial generativa.

Leia também
PL das Fake News pode ‘limitar liberdade de expressão’, diz Google
Projeto de lei das fake news é “assassinato da internet moderna”, diz Telegram

Chinês usou ChatGPT para criar fake news sobre um acidente de trem

O suspeito, identificado apenas pelo sobrenome Hóng, é acusado de utilizar o gerador de texto alimentado por IA para criar artigos de notícias que foram classificados como “informações falsas” pelas autoridades.

A história que levou Hóng a ser detido descrevia um acidente de trem fatal que teria matado nove pessoas na província de Gansu. A polícia localizou a empresa de mídia social de Hóng na cidade de Dongguan, na província de Guangdong, e efetuou a prisão em 5 de maio.

Hóng teria confessado que a história do acidente de trem foi gerada pelo ChatGPT a partir de prompts sobre notícias populares na China nos últimos anos. Ele também admitiu que diferentes versões do artigo foram criadas para contornar a função de verificação de duplicação da plataforma Baijiahao, operada pela gigante da tecnologia chinesa Baidu.

China é pioneira na regulamentação de IAs generativas

 

A prisão de Hóng é a primeira do tipo desde que a China implementou novas regulamentações sobre a tecnologia de inteligência artificial em janeiro. A legislação, conhecida como “Provisões sobre a Administração de Serviços de Informação da Internet de Síntese Profunda“, é a primeira tentativa da China de regulamentar deepfakes.

Essa tecnologia é definida pelos legisladores chineses como tecnologias que usam “aprendizado profundo, realidade virtual e outros algoritmos sintéticos para produzir texto, imagens, áudio, vídeo, cenas virtuais e outras informações de rede“.

A Administração do Ciberespaço da China (CAC) também revelou um novo conjunto de diretrizes preliminares sobre serviços de IA gerativa como o ChatGPT em abril. As regras propostas exigem que os desenvolvedores de IA garantam que o conteúdo gerado possua “os valores centrais do socialismo” e não “incite a subversão do poder do Estado” ou prejudique a unidade nacional.

Inteligência artificial e Fake News é um combo perigoso

Fake News

A prisão de Hóng e a crescente regulamentação da IA gerativa na China destacam a complexa interseção entre tecnologia, liberdade de expressão e controle estatal na era digital.

Enquanto a China continua a navegar nesse território inexplorado, o caso de Hóng serve como um lembrete poderoso das implicações legais e éticas do uso de IA na criação e disseminação de informações.

Recentemente, a badalada ferramenta de criação de imagens por inteligência artificial, o Midjourney, acabou com o acesso gratuito. A motivação para isso foi justamente a criação de fake news. A plataforma gera imagens tão realistas que acabam enganando diversas pessoas, como essas imagens do Papa, do Donald Trump e do presidente da França.

Fonte: The China Project

Sobre o Autor

Cearense. 34 anos. Apaixonado por tecnologia e cultura. Trabalho como redator tech desde 2011. Já passei pelos maiores sites do país, como TechTudo e TudoCelular. E hoje cubro este fantástico mundo da tecnologia aqui para o HARDWARE.
Leia mais
Redes Sociais:

Deixe seu comentário

X