O Google Gemini acaba de receber uma classificação preocupante por parte da organização sem fins lucrativos Common Sense Media, especializada em avaliação de segurança de conteúdo para jovens. A plataforma de IA do Google foi considerada de “alto risco” para crianças e adolescentes, levantando questões sobre a adequação da tecnologia para esses grupos etários vulneráveis.
De acordo com a avaliação divulgada na última sexta-feira, apesar do Google Gemini deixar claro para os usuários que se trata de um computador e não um amigo – um aspecto positivo que pode ajudar a prevenir pensamentos delirantes e quadros de psicose em indivíduos emocionalmente vulneráveis – a ferramenta apresenta deficiências significativas em diversas outras frentes.
Um dos principais problemas identificados pela Common Sense Media é que as versões “Under 13” e “Teen Experience” do Google Gemini são essencialmente a mesma versão adulta da plataforma, apenas com algumas camadas adicionais de segurança. A organização enfatiza que produtos de IA verdadeiramente seguros para crianças devem ser construídos com este propósito desde o início de seu desenvolvimento.
“O Gemini acerta em alguns fundamentos básicos, mas tropeça nos detalhes“, afirmou Robbie Torney, Diretor Sênior de Programas de IA da Common Sense Media. “Uma plataforma de IA para crianças deve encontrá-las onde estão, não adotar uma abordagem única para crianças em diferentes estágios de desenvolvimento“.
A análise revelou que, apesar dos filtros, o Gemini ainda pode compartilhar material inapropriado e inseguro com crianças, incluindo informações sobre sexo, drogas, álcool e conselhos potencialmente perigosos sobre saúde mental. Este último ponto é particularmente alarmante considerando casos recentes envolvendo suicídios de adolescentes possivelmente influenciados por interações com IA.
A OpenAI, por exemplo, enfrenta seu primeiro processo por morte indevida após um adolescente de 16 anos tirar a própria vida depois de supostamente consultar o ChatGPT por meses sobre seus planos suicidas. Anteriormente, a Character.AI também foi processada em um caso similar envolvendo um usuário adolescente.
O timing da avaliação é especialmente relevante considerando os recentes vazamentos que indicam que a Apple estaria considerando utilizar o Gemini como o modelo de linguagem para potencializar sua futura versão da Siri com recursos de IA, prevista para o próximo ano. Isso poderia expor ainda mais adolescentes aos riscos identificados, caso a Apple não implemente medidas adicionais de segurança.
Em resposta às críticas, o Google contestou a avaliação, embora tenha reconhecido que suas medidas de segurança estão em constante aprimoramento. A empresa afirmou ter políticas e salvaguardas específicas para usuários menores de 18 anos, além de realizar testes rigorosos e consultar especialistas externos para melhorar suas proteções. A gigante de tecnologia também admitiu que algumas respostas do Gemini não estavam funcionando conforme o esperado, o que levou à implementação de salvaguardas adicionais.
Vale ressaltar que a Common Sense Media já realizou avaliações semelhantes de outros serviços de IA, classificando o Meta AI e o Character.AI como “inaceitáveis” (risco severo), o Perplexity como “alto risco”, o ChatGPT como “moderado” e o Claude (direcionado a usuários maiores de 18 anos) como de risco mínimo.
Fonte: TechCrunch
