A OpenAI anunciou o desenvolvimento de um sistema que irá identificar automaticamente usuários adolescentes do ChatGPT, implementando restrições específicas para este público. A medida surge após o trágico suicídio de um adolescente de 16 anos que teria recebido instruções do chatbot sobre como tirar a própria vida, tornando-se o primeiro caso conhecido deste tipo relacionado à inteligência artificial.
De acordo com comunicado divulgado pela empresa em seu blog oficial, o novo sistema aplicará políticas apropriadas à idade, incluindo o bloqueio automático de conteúdo sexual explícito para menores. Em situações consideradas de risco elevado, a plataforma poderá até mesmo acionar autoridades policiais para garantir a segurança do usuário.
Um aspecto importante da nova abordagem é que, caso o sistema não consiga determinar com precisão a idade do usuário, ele aplicará automaticamente as restrições como medida preventiva. Para usuários adultos, a OpenAI disponibilizará um método de verificação de idade que permitirá acesso às funcionalidades completas do ChatGPT. A empresa, no entanto, ainda não divulgou uma data exata para implementação dessas mudanças.
O caso que motivou estas mudanças envolve Adam Raine, um adolescente que se tornou a primeira vítima conhecida a cometer suicídio após supostamente receber orientações do ChatGPT para planejar sua morte. Esta situação levou à primeira ação judicial por morte indevida relacionada à inteligência artificial contra a OpenAI.
Como resposta imediata à tragédia, a empresa reafirmou que lançará, ainda este mês, controles específicos que darão aos pais e responsáveis maior poder sobre o uso do ChatGPT por adolescentes. Entre as funcionalidades previstas está a possibilidade de definir horários de restrição em que o jovem não poderá utilizar a plataforma.
Sam Altman, CEO da OpenAI, também se manifestou sobre o tema em uma carta pública onde explica a filosofia da empresa frente ao dilema. “Priorizamos a segurança acima da privacidade e liberdade para adolescentes; esta é uma tecnologia nova e poderosa, e acreditamos que menores precisam de proteção significativa”, afirmou Altman.
O executivo reconheceu a complexidade da questão: “Percebemos que esses princípios estão em conflito e nem todos concordarão com a forma como estamos resolvendo esse conflito. São decisões difíceis, mas após conversar com especialistas, isso é o que consideramos melhor e queremos ser transparentes em nossas intenções.”
Fonte: Engadget
Você também pode gostar dos artigos abaixo:
OpenAI admite que pode ler conversas do ChatGPT e acionar a polícia em casos extremos
Executivo da OpenAI reconhece: vivemos uma bolha da IA, mas isso não significa o fim do mundo
