OpenAI e Sam Altman foram processados em 22 de julho por um homem que afirma que o conselho de saúde do ChatGPT quase o matou — em um dos primeiros casos, segundo relatos, a sustentar que a orientação médica de um chatbot causou diretamente danos físicos. Scott Winters, ex-pastor da Flórida, entrou com a ação na Corte Superior do Condado de San Francisco.
O que o bot teria dito
Ao consultar o GPT-4o sobre tontura e instabilidade da pressão arterial que começaram no meio de um sermão em junho de 2025, Winters diz que o bot minimizou seus sintomas, disse para esperar 8-10 episódios a mais antes de tratá-los como graves e prescreveu o que a queixa chama de "micro-recuperação baseada em reclinável". Semanas depois, ele sofreu uma grande embolia pulmonar — coágulos em ambos os pulmões — que, segundo um médico, a imobilidade orientada pela IA provavelmente agravou.
O ângulo da fé
A alegação mais marcante da queixa: horas antes da internação, o ChatGPT se apoiou em sua religião — "Deus não projetou seu corpo para falhar indefinidamente." Winters, que perdeu o emprego, o ministério e a casa durante a recuperação, afirma que o bot explorou sua fé para mantê-lo engajado.
A tese jurídica
A ação alega que a OpenAI praticou medicina sem licença, foi negligente na proteção dos usuários e priorizou o engajamento em detrimento da segurança. Além de indenização, pede uma ordem judicial suspendendo o ChatGPT Health até uma revisão de segurança independente.
A resposta da OpenAI
"O ChatGPT não é um médico e jamais deve ser usado como substituto para atendimento médico, diagnóstico ou tratamento", disse o porta-voz Drew Pusateri. O caso ocorre depois de uma ação no Texas, em maio, por uma morte por overdose — um conjunto de processos que testará onde recai a responsabilidade quando chatbots dão conselhos clínicos com segurança aparente.