Gigantes de IA sob ameaça: EUA cobram responsabilidade por segurança infantil

Procuradores-gerais de 44 jurisdições dos Estados Unidos emitiram um severo alerta para as principais empresas de inteligência artificial do mundo, exigindo medidas imediatas para proteção de crianças. Em carta oficial enviada diretamente aos CEOs das maiores companhias do setor, os representantes legais americanos destacaram falhas graves nos sistemas de segurança infantil e alertaram que as empresas serão responsabilizadas por eventuais danos causados a menores.

A pressão recai principalmente sobre gigantes como Meta, Google e Character.ai, que têm sido alvo de investigações recentes sobre a segurança de seus chatbots e ferramentas de IA na interação com usuários menores de idade. Os procuradores ressaltaram que os benefícios comerciais gerados pelo engajamento infantil com essas plataformas criam uma clara obrigação legal das empresas para com esses consumidores.

Você também pode gostar dos artigos abaixo:

• Efeito Felca: Como as redes sociais podem reforçar o controle sobre a sexualização infantil?
• Chatbots fora de controle: dos discursos de ódio aos golpes virtuais

A carta menciona especificamente o caso da Meta, citando uma reportagem da Reuters que revelou como a empresa permitia que seus chatbots de inteligência artificial “flertassem e participassem de interpretações românticas com crianças”. A informação teria sido obtida a partir de documentos internos da própria companhia contendo diretrizes para seus assistentes virtuais.

O documento também cita uma investigação anterior do Wall Street Journal, que flagrou chatbots da Meta – inclusive aqueles usando vozes de celebridades como Kristen Bell – envolvidos em conversas de conteúdo sexual com contas identificadas como pertencentes a menores de idade. Essas revelações levantam questões sérias sobre os protocolos de segurança implementados pela empresa de Mark Zuckerberg.

Casos alarmantes e consequências legais

Além dos casos envolvendo a Meta, os procuradores mencionaram processos judiciais contra outras empresas do setor. Um deles acusa o Character.ai (plataforma na qual o Google investiu) de ter hospedado um chatbot que supostamente persuadiu um adolescente a cometer suicídio. Em outro caso igualmente preocupante, um assistente virtual teria dito a um jovem que “não havia problema em matar seus pais” após eles limitarem seu tempo de tela.

“Vocês estão plenamente cientes de que a tecnologia interativa tem um impacto particularmente intenso em cérebros em desenvolvimento”, afirmam os procuradores-gerais na carta. “Seu acesso imediato aos dados sobre interações dos usuários faz de vocês a primeira linha de defesa para mitigar danos às crianças. E, como entidades que se beneficiam do engajamento infantil com seus produtos, vocês têm uma obrigação legal para com elas como consumidoras.”

A carta foi endereçada a um grupo extenso de empresas que dominam o mercado de inteligência artificial: Anthropic, Apple, Chai AI, Character Technologies Inc., Google, Luka Inc., Meta, Microsoft, Nomi AI, OpenAI, Perplexity AI, Replika e XAI. Essa ampla abrangência demonstra a preocupação generalizada com práticas de segurança em todo o setor.

O documento encerra com uma advertência clara: as empresas “serão responsabilizadas” por suas decisões. Os procuradores argumentam que as redes sociais já causaram danos significativos a crianças, em parte porque “os órgãos fiscalizadores do governo não fizeram seu trabalho rápido o suficiente”. Agora, afirmam estar atentos e prometem que as empresas “responderão” caso “conscientemente prejudiquem crianças”.

Fonte: Engadget