A China deu um passo significativo na implementação de regras para IA, com foco específico em sistemas que simulam características humanas. O regulador de cibersegurança do país asiático divulgou no último sábado (27) uma proposta que estabelece diretrizes rigorosas para tecnologias capazes de criar vínculos emocionais com seus usuários, sinalizando uma nova fase no controle estatal sobre o avanço tecnológico.
A proposta, aberta para consulta pública, surge em um momento de rápida expansão do mercado consumidor de inteligência artificial no território chinês. Pequim busca, com essa iniciativa, criar um equilíbrio entre o desenvolvimento tecnológico acelerado e a proteção dos usuários contra possíveis riscos psicológicos e sociais.
O texto regulatório tem como alvo principal assistentes virtuais, chatbots e outras ferramentas digitais que adotam traços de personalidade e padrões de comunicação semelhantes aos humanos. A regulamentação abrange sistemas que interagem emocionalmente com usuários através de diferentes formatos, incluindo texto, imagem, áudio e vídeo.
Entre as principais exigências está a obrigatoriedade de que as empresas informem claramente sobre os riscos do uso prolongado dessas tecnologias. Além disso, as companhias deverão intervir quando detectarem sinais de dependência emocional prejudicial por parte dos usuários, implementando mecanismos de proteção.
As novas regras para IA na China também definem responsabilidades mais amplas para as empresas desenvolvedoras, que terão que implementar sistemas de revisão algorítmica e proteção de dados pessoais. A monitoração do estado emocional dos usuários torna-se uma exigência, com avaliação constante de níveis de estresse, dependência ou reações extremas durante interações.
Caso sejam identificados comportamentos problemáticos, como apego excessivo ou respostas emocionais intensas, as plataformas serão obrigadas a tomar medidas para reduzir potenciais danos psicológicos. O objetivo declarado é evitar que sistemas de IA explorem vulnerabilidades emocionais ou estimulem padrões de uso nocivos.
As limitações de conteúdo também são parte central da proposta. Respostas que ameacem a segurança nacional, disseminem desinformação ou promovam conteúdos obscenos ficam expressamente proibidas, reforçando o controle sobre o tipo de interação que esses sistemas podem oferecer.
Esta nova regulamentação se insere em um contexto mais amplo de governança tecnológica na China, que tem buscado estabelecer diretrizes para diversos segmentos de inovação digital, como carros autônomos e robôs humanoides. O país, que avança rapidamente tanto no desenvolvimento quanto na aplicação comercial de IA, parece determinado a criar um modelo regulatório que mantenha a inovação sob vigilância estatal.
A proposta chinesa levanta questões importantes sobre como outros países poderão abordar desafios semelhantes no futuro, considerando o crescente desenvolvimento de sistemas de IA cada vez mais sofisticados em suas interações emocionais com humanos.
Fonte: Reuters
Você também pode gostar dos artigos abaixo:
China tira NVIDIA da lista oficial de chips “confiáveis” de IA
Polícia de trânsito na China usa óculos com IA para ler placas de carro em 2 segundos
