Órgãos reguladores da China estão colocando à prova ferramentas de IA generativas para constatar se elas estão seguindo ‘valores socialistas’. Segundo apuração do Financial Times, a entidade de administração de ciberespaço da China (CAC, na sigla em inglês) está diretamente responsável por fazer essa avaliação.
Pente fino socialista nas IAs
Ao que consta, o governo chinês está colocando os modelos generativos da categoria LLM, os grandes modelos de linguagem, para responder uma série de perguntas, incluindo tópicos políticos que o governo chinês considera importante. A ideia é que as respostas que os usuários terão ao usar alguma ferramenta que gere texto esteja alinhado ao discurso que o governo comandado por Xi Jinping almeja. A reportagem do Financial Times também diz que os dados utilizados para o treinamento dos modelos também serão analisados.
As empresas precisarão remover “informações consideradas problemáticas”, além de também criar uma base de dados de termos e frases proibidas. Em resumo, além de uma certa limitação prévia das plataformas, tentando não esbarrar em questões legais, LLMs na China também terão uma camada extra de filtragem, que atenda as pretensões do governo. E com um adicional: a China não quer que os modelos neguem respostas a perguntas “complicadas”, a administração de Xi Jinping quer que as IAs gerem respostas politicamente corretas ao questionamento. Ponto que pode esbarrar na desinformação.
Dentre as empresas que serão avaliadas pelo governo, ByteDance, dona do Tik Tok, e o Alibaba estão na lista.
Recentemente, a LLM mais famosa do mundo, o ChatGPT, deixou completamente o mercado chinês, bloqueando também a possibilidade de integração com API (Interface de Programação de Aplicação) da OpenAI.
