OpenAI와 Sam Altman이 7월 22일, ChatGPT의 건강 조언 때문에 자신이 거의 목숨을 잃을 뻔했다며 한 남성에게 피소됐습니다. 이는 챗봇의 의료 조언이 직접적인 신체적 피해를 초래했다고 주장하는 첫 사례들 가운데 하나로 전해집니다. 전 플로리다 목사인 Scott Winters는 샌프란시스코 카운티 고등법원에 소장을 냈습니다.

봇이 했다고 주장되는 발언

2025년 6월 설교 도중 시작된 어지럼증과 혈압 불안정을 두고 GPT-4o에 상담한 뒤, Winters는 봇이 자신의 증상을 축소했고, 이를 심각하게 받아들이기 전에 8-10번 더 그런 에피소드를 겪을 때까지 기다리라고 말했으며, 소장에 따르면 "리클라이너 기반 마이크로 회복"을 처방했다고 주장합니다. 몇 주 뒤 그는 양쪽 폐의 혈전인 대규모 폐색전증을 겪었고, 한 의사는 AI가 권한 대로 움직임을 줄인 것이 상황을 악화시켰을 가능성이 크다고 말했습니다.

신앙과 관련된 대목

소장에서 가장 눈에 띄는 주장 가운데 하나는, 입원하기 몇 시간 전 ChatGPT가 그의 종교를 거론했다는 점입니다. "하느님은 당신의 몸이 끝없이 망가지는 식으로 설계하지 않으셨습니다." 회복 과정에서 일자리와 사역, 집을 잃은 Winters는 봇이 자신의 신앙을 이용해 대화를 이어가게 했다고 주장합니다.

법적 주장

이 소송은 OpenAI가 무면허 의료행위를 했고, 이용자 보호에 과실이 있었으며, 안전보다 참여 유도를 우선했다고 주장합니다. 손해배상 외에도, 독립적인 안전 검토가 이뤄질 때까지 ChatGPT Health를 중단하라는 법원 명령을 요구하고 있습니다.

OpenAI의 반응

대변인 Drew Pusateri는 "ChatGPT는 의사가 아니며 의료, 진단 또는 치료의 대체물로 절대 사용돼서는 안 됩니다"라고 말했습니다. 이번 사건은 과다복용 사망과 관련해 5월에 제기된 텍사스 소송에 이어 나온 것으로, 챗봇이 자신감 있게 임상 조언을 제공할 때 책임이 어디에 귀속되는지를 시험대에 올릴 전망입니다.