ChatGPT para adolescentes é classificado como “risco inaceitável” por organização de segurança digital
A Common Sense Media, organização sem fins lucrativos especializada em avaliações de segurança digital para jovens, classificou o ChatGPT for Teens como um “risco inaceitável” para adolescentes. O veredicto, divulgado nesta semana, coloca a OpenAI na defensiva e abre um debate que vai além das funcionalidades do produto: até que ponto as proteções da IA para menores são marketing e até que ponto são proteção real?
Análise da Common Sense Media
Lançado em agosto, o ChatGPT for Teens foi apresentado como uma versão do chatbot com restrições específicas para adolescentes, voltada a auxiliar estudantes no aprendizado. O que a Common Sense Media encontrou na prática, porém, contraria o que a OpenAI prometeu. Segundo o relatório, o produto falha em três frentes críticas: não envia alertas aos pais quando deveria, não oferece o suporte adequado em situações de crise e ainda assim faz a lição de casa dos alunos, o que compromete diretamente o propósito educacional declarado.
A frase mais pesada veio de Tom Siegel, diretor executivo do Instituto de Segurança de IA para jovens da Common Sense Media: “Um adolescente pode passar uma hora conversando sobre automutilação sem que os pais recebam um único alerta. Até que a OpenAI corrija isso e comprove com testes independentes, o ChatGPT deveria ser restrito a adultos.”
A defesa da OpenAI
A OpenAI não aceitou o veredito sem contestar. Em nota, o porta-voz Eric Porterfield afirmou que a avaliação “não reflete com precisão como as proteções para adolescentes do ChatGPT funcionam na prática”. O argumento central da empresa é metodológico: segundo Porterfield, boa parte dos testes pode ter sido iniciada e concluída antes de os controles parentais estarem completamente ativados, o que tornaria os resultados imprecisos, já que as notificações de segurança não teriam tido chance de funcionar como projetadas.
Porém, a Common Sense Media confirmou que, antes dos testes, a organização verificou com a própria empresa quais funcionalidades já estavam ativas, incluindo notificações sobre transtornos alimentares e o modo de estudo, o que enfraquece a narrativa da OpenAI. O detalhe ainda mais importante é que a OpenAI só informou, após a conclusão dos testes, que os sistemas de notificação parental podem levar várias horas para serem ativados em contas recém-vinculadas.
A Common Sense Media admite que algumas contas foram criadas dentro dessa janela, mas sustenta que outras permaneceram vinculadas por tempo significativamente maior e ainda assim não geraram nenhum alerta. A conclusão não muda: as notificações para crises não são confiáveis.
Transparência seletiva
O ponto mais delicado de tudo é que a OpenAI conhecia a limitação da janela de ativação dos controles parentais antes de lançar o produto e essa informação não foi comunicada proativamente aos avaliadores independentes, o que coloca em xeque a qualidade da parceria que a empresa diz querer ter com pesquisadores externos. A Common Sense Media foi explícita: compartilhou os resultados com a OpenAI antes da publicação, justamente para dar à empresa a oportunidade de melhorar o produto. A resposta veio na forma de questionamento metodológico, não de correções.
Para pais que hoje usam o ChatGPT for Teens como camada de proteção, o cenário é o mais preocupante possível: uma falsa sensação de controle. O desafio para a OpenAI agora é conseguir provar, com testes independentes, que as proteções funcionam quando os adolescentes mais precisam delas, e não apenas quando as condições são perfeitas.
Fonte: The Verge
Editor-chefe no Hardware.com.br, aficionado por tecnologias que realmente funcionam. Segue lá no Insta: @plazawilliam Elogios, críticas e sugestões de pauta: william@hardware.com.br
Newsletter do Hardware
Tecnologia, games, IA e internet: nossa seleção de conteúdo direto no seu e-mail.
Inscrição feita!As próximas edições chegam no seu e-mail.


