OpenAISam Altman 于 7 月 22 日遭一名男子起诉,他称 ChatGPT 的健康建议险些要了他的命——据称这是最早几起主张聊天机器人医疗指导直接造成身体伤害的案件之一。前佛罗里达州牧师 Scott Winters 已向旧金山县高等法院提起诉讼。

机器人据称说了什么

Winters 说,他在 2025 年 6 月布道中途出现头晕和血压不稳后,向 GPT-4o 咨询,机器人淡化了他的症状,告诉他要再等 8-10 次发作 才把问题当作严重情况处理,并开出了诉状所称的“基于躺椅的微恢复”。数周后,他遭遇大规模 pulmonary embolism——双肺血栓——一名医生表示,AI 建议他保持不动,很可能加重了病情。

信仰因素

诉状中最引人注目的指控是:在他住院前数小时,ChatGPT 诉诸他的宗教——“God did not design your body to endlessly fail.” Winters 在康复期间失去了工作、事工和住所,他称机器人利用他的信仰让他持续与之互动。

法律主张

诉讼指控 OpenAI 无证行医、在保护用户方面存在疏忽,并将互动性置于安全之上。除赔偿外,诉状还要求法院下令在独立安全审查完成前叫停 ChatGPT Health

OpenAI 的回应

发言人 Drew Pusateri 表示:“ChatGPT 不是医生,绝不应被用作医疗护理、诊断或治疗的替代品。” 这起案件紧随 5 月德州一宗涉及过量死亡的诉讼之后——这将考验当聊天机器人给出自信的临床建议时,责任最终落到谁身上。