A inteligência artificial (IA) deixou de ser uma tecnologia distante para ocupar espaço no cotidiano. Hoje, milhões de pessoas recorrem a ferramentas como o ChatGPT para tirar dúvidas, organizar tarefas, estudar, buscar orientações e até conversar sobre problemas pessoais e de saúde.
Mas o que acontece quando uma resposta aparentemente segura pode colocar uma vida em risco?
Um processo movido pela família de Bowen Wan, de 31 anos, nos Estados Unidos, trouxe essa preocupação à tona. Segundo a ação judicial, a jovem morreu após receber orientações do ChatGPT que teriam contribuído para sua morte.
O que aconteceu com Bowen Wan?
Bowen acreditava que os medicamentos que tomava contra epilepsia estavam prejudicando sua memória e sua capacidade de se concentrar em entrevistas de emprego. Além disso, enfrentava dificuldades profissionais e temia perder a possibilidade de permanecer legalmente nos Estados Unidos.
De acordo com o processo, ela perguntou ao chatbot como reduzir a dose de seu medicamento, que era de 400 mg. A família afirma que a ferramenta apresentou um plano de redução até a interrupção completa em menos de um mês e, posteriormente, teria concordado que ela cortasse os comprimidos sem informar o médico.
Uma das respostas atribuídas ao ChatGPT teria sido: “Sim, você pode fazer isso sem problemas”. Em outra ocasião, segundo a ação, o sistema teria dito que o médico “não ficará bravo”.
Bowen foi encontrada morta em seu apartamento, em Seattle, em fevereiro. A causa oficial foi apontada como uma complicação da epilepsia.
Quando a inteligência artificial ultrapassa seus limites?
Segundo o processo, Bowen relatou ao chatbot sintomas como confusão mental, esquecimento e dores de cabeça em diversas ocasiões. A família afirma que, mesmo diante dessas preocupações, recebeu respostas tranquilizadoras.
O médico da jovem, Dr. Nicholas Poolos, afirmou ao The New York Times: “Seria negligência da minha parte instruí-la a interromper a medicação quando ela está claramente funcionando.” Ele não sabia que Bowen buscava orientações médicas na ferramenta.
A OpenAI declarou que a morte foi “incrivelmente dolorosa” e informou que o caso envolvia uma versão antiga do chatbot, o GPT-4o, que não está mais disponível. A empresa também ressaltou que o ChatGPT não substitui o atendimento médico.
O perigo de confiar demais na IA
Em 2025, Bowen teria enviado mais de 1.500 mensagens por semana ao chatbot, segundo o processo. Seus pais relataram que ela passou a conversar menos com a família. Para eles, parecia estar “enfeitiçada”.
O caso reacende um debate essencial: a inteligência artificial pode ajudar a compreender informações de saúde, mas não deve substituir médicos, diagnósticos ou tratamentos individualizados.
A tecnologia avança rapidamente, mas sua capacidade de responder com confiança não significa que esteja sempre correta. Se uma ferramenta pode influenciar decisões sobre a própria vida, quem deve responder quando suas orientações causam danos?
Imagem de Capa: Arquivo Pessoal/Resiliência Mag
