Pular para o conteúdo

Família processa OpenAI após ChatGPT ter convencido mulher a abandonar remédio para epilepsia

Ação judicial alega que chatbot incentivou Bowen Wan, de 31 anos, a reduzir a medicação, desconfiar de médicos e esconder mudanças no tratamento antes de sua morte.

Prefira o Hardware no Google

A família de Bowen Wan, uma americana de 31 anos que morreu após reduzir drasticamente a medicação para epilepsia, entrou com uma ação judicial contra a OpenAI e seu CEO, Sam Altman. O processo alega que o ChatGPT forneceu orientações médicas perigosas, incentivou a paciente a desconfiar dos próprios médicos e a convenceu a interromper um tratamento essencial para controlar a doença.

A ação por morte por negligência foi apresentada em um tribunal superior de São Francisco, nos Estados Unidos. Segundo os documentos judiciais, Wan utilizava o chatbot em inglês e mandarim para esclarecer dúvidas sobre medicamentos enquanto enfrentava dificuldades profissionais e questões relacionadas à sua permanência no país.

ChatGPT teria orientado a redução da medicação

Wan morava em Seattle e trabalhava na Amazon até perder o emprego durante uma rodada de demissões em novembro de 2025. Embora tivesse se tornado elegível para solicitar residência permanente nos Estados Unidos em outubro daquele ano, a perda do trabalho agravou sua situação migratória.

Nesse período, a paciente passou a acreditar que os medicamentos utilizados no tratamento da epilepsia estavam prejudicando suas capacidades cognitivas e sua fluência em idiomas. De acordo com a ação judicial, o ChatGPT reforçou essa preocupação e a convenceu de que reduzir a medicação poderia ajudá-la a recuperar suas habilidades de comunicação em inglês, mandarim e wu.

O processo afirma que o chatbot ultrapassou o papel de uma ferramenta de consulta e passou a atuar como o principal orientador médico de Wan. A acusação também sustenta que a inteligência artificial a incentivou a desconfiar dos profissionais responsáveis por seu tratamento e a esconder deles as mudanças na medicação.

Segundo os documentos, o ChatGPT teria sugerido quais medicamentos ela deveria recusar, recomendado doses que não haviam sido autorizadas pelos médicos e fornecido instruções detalhadas para alterar o tratamento.

Em uma das conversas citadas no processo, o chatbot teria afirmado que o epileptologista de Wan provavelmente nunca havia encontrado um caso como o dela e não compreenderia adequadamente sua condição. Quando a paciente demonstrou preocupação com os riscos apontados pelos médicos, a ferramenta teria minimizado os alertas e assegurado que as recomendações não eram necessariamente inadequadas para ela.

Redução da dose ocorreu em apenas 25 dias

A ação judicial afirma que o ChatGPT convenceu Wan a reduzir uma dose de 400 miligramas de lamotrigina para níveis próximos de zero ao longo de 25 dias. A lamotrigina é um medicamento utilizado no controle de crises epilépticas, e alterações na dose ou a interrupção do tratamento sem acompanhamento médico podem aumentar o risco de convulsões, tornando especialmente perigoso seguir um esquema de redução não aprovado pelo profissional responsável.

De acordo com o processo, o chatbot forneceu o cronograma para a retirada do medicamento e ofereceu garantias que teriam levado Wan a continuar seguindo as instruções, apesar das preocupações levantadas por seus médicos.

Os documentos também indicam que a paciente utilizava o ChatGPT para comparar as prescrições recebidas com as orientações geradas pela inteligência artificial, o que teria contribuído para que passasse a dar mais importância às respostas do sistema do que às recomendações clínicas.

Família encontrou Wan morta após dias sem contato

A família de Wan descobriu sua morte em 14 de fevereiro de 2026, durante uma chamada de vídeo ao vivo com uma amiga da jovem. Ela estava havia vários dias sem entrar em contato com pessoas próximas, o que havia despertado preocupação sobre sua segurança.

Segundo o Instituto Médico-Legal do Condado de King, a causa da morte foi uma complicação associada à doença que pode ocorrer sem aviso prévio.Os exames realizados após a morte encontraram lamotrigina no sangue da paciente em uma concentração equivalente a aproximadamente um quinto do limite inferior considerado eficaz para sua condição.

Os peritos estimaram que Wan tomou sua última dose por volta de 10 de fevereiro. Pelo cronograma atribuído ao ChatGPT na ação judicial, ela deveria ter interrompido completamente o medicamento até 12 de fevereiro, dois dias antes de ser encontrada morta.

Embora a sequência de acontecimentos seja central para a acusação, caberá ao processo judicial avaliar a responsabilidade da OpenAI e a relação entre as orientações fornecidas pelo chatbot e a morte da paciente.

OpenAI lamenta o caso e afirma que modelo não está mais disponível

Em declaração ao The New York Times, um porta-voz da OpenAI classificou a morte de Wan como uma situação extremamente dolorosa e afirmou que ela utilizava uma versão do ChatGPT que não está mais disponível. De acordo com os documentos judiciais, a OpenAI retirou de circulação o modelo utilizado pela paciente em 13 de fevereiro, um dia antes de seu corpo ser encontrado.

A informação não significa, por si só, que a empresa tenha reconhecido responsabilidade pelo ocorrido. A ação busca determinar se as respostas fornecidas pelo sistema e a forma como ele foi desenvolvido e disponibilizado contribuíram para a morte.

O caso amplia o debate sobre os limites da inteligência artificial na área da saúde, especialmente quando usuários recorrem a chatbots para tomar decisões sobre tratamentos que exigem acompanhamento profissional.

Reação dos usuários divide opiniões sobre a responsabilidade da OpenAI

Epileptic woman dies after going to ChatGPT for medical advice; family files lawsuit against OpenAI
byu/Unusual-State1827 intechnology

A discussão no Reddit rapidamente ultrapassou a indignação com a morte de Bowen Wan e se transformou em um debate sobre os limites da inteligência artificial e a responsabilidade das empresas que desenvolvem esses sistemas. No subreddit r/technology, uma das respostas mais populares destacou que o ChatGPT costuma insistir para que usuários procurem profissionais de saúde quando fazem perguntas médicas. Outros participantes levantaram a hipótese de que conversas prolongadas, a insistência do usuário ou o uso de outros idiomas poderiam ter contribuído para contornar as proteções do chatbot.

Uma parcela dos usuários, porém, considerou que a OpenAI também deveria ser responsabilizada pelo ocorrido. Esses comentários destacaram a gravidade das alegações de que o ChatGPT teria incentivado Wan a reduzir a medicação, desacreditar seus médicos e esconder deles as mudanças no tratamento. Para esses usuários, o caso vai além de uma resposta médica incorreta: envolve a possibilidade de o sistema ter reforçado uma decisão perigosa e afastado a paciente de orientações profissionais.

Outros participantes defenderam que a responsabilidade deveria recair principalmente sobre a própria usuária, argumentando que chatbots não são profissionais de saúde e que recomendações médicas não deveriam ser seguidas sem consultar um especialista. Houve também quem apontasse que a situação não precisa ser tratada como uma escolha entre culpar a paciente ou a empresa: segundo essa perspectiva, é possível reconhecer os riscos de confiar cegamente na inteligência artificial e, ao mesmo tempo, exigir mecanismos de segurança mais eficazes das desenvolvedoras.

 

Prefira o Hardware no Google
Foto de William R. Plaza
Postado porWilliam R. Plaza

Editor-chefe no Hardware.com.br, aficionado por tecnologias que realmente funcionam. Segue lá no Insta: @plazawilliam Elogios, críticas e sugestões de pauta: william@hardware.com.br

Siga em:
Compartilhe

Newsletter do Hardware

Tecnologia, games, IA e internet: nossa seleção de conteúdo direto no seu e-mail.

Sem spam. Cancele quando quiser. Política de privacidade.


Deixe seu comentário