OpenAI는 9월 1일, 의료 기관이 자사의 Epic 전자 건강기록 환경을 ChatGPT for Healthcare에 연결할 수 있다고 발표했다. 출시 기관에는 Cedars-Sinai, Memorial Sloan Kettering, HCA Healthcare, UCSF Health, Boston Children's Hospital, AdventHealth and Baylor Scott & White가 포함된다. 임상의는 진료 예약 메모, 검사 결과, 약물 및 전문의 문서를 불러와 기록 전반에 걸쳐 질문할 수 있으며, 일부 배포에서는 ChatGPT가 EHR 인터페이스 내부에 직접 들어가기도 한다.
안전 수치의 실제 의미
제시된 근거는 공급업체가 주도한 의사 평가이며, 시험도 아니고 임상 연구도 아니다. 27개 임상 사용 사례에 걸친 4,363건의 의사 평가였고, 이 중 99.1%가 안전하다고 평가됐다. 이는 안전 기준 아래로 내려간 응답이 약 39건 남았다는 뜻이다. 공개된 방법론도, 동료 평가도, 독립적 재현도 없으며, 평가자들은 공급업체가 섭외했다. 별도의 정확도 범위 93.2%~98.6%는 ClinicalTrials.gov, CMS Coverage, RxNorm, DailyMed and PubMed 등 5개 공개 데이터 커넥터에 대해 제시됐다.
흔한 해석이 놓치는 점
두 가지 왜곡이 서로 반대 방향으로 작동한다. “3억2,500만 환자”는 Epic의 총 규모일 뿐 접근 가능한 인구가 아니다. 연결은 기관별이며 선택적(opt-in)이고, HIPAA Business Associate Agreement가 필요하므로 첫날의 도달 범위는 이를 켠 Epic 고객의 일부에 불과하다. 또 4,363은 의사 수가 아니라 평가 건수인데, 일부 보도는 이를 혼동했다. 이와 관련해 FDA의 허가나 승인을 받은 것은 아무것도 없다. 이런 형태의 임상 의사결정 지원은 의료기기 규제 범위 밖에 있으므로, “병원 사용 승인을 받았다”는 표현은 단순히 틀렸다.
읽기 전용 경계는 양날의 검이다
접근 권한은 읽기 전용이다. 모델은 차트에 아무것도 다시 쓰지 않는다. 이는 거버넌스 설계이기도 하지만 업무 흐름의 한계이기도 하다. 모든 출력은 임상의가 다시 입력해야 하는 기록되지 않은 제안으로 남는다. 저장할 수 없는 제안은 누군가 다시 타이핑해야 하므로, 이 제약은 상업적 압력의 첫 대상이 될 가능성이 가장 크다.
잔존 위험이 있는 지점
기준을 통과하지 못한 약 39건의 응답은 바로 판매되는 그 업무 흐름, 즉 임상의가 스스로 열어보지 않은 차트의 요약을 읽는 상황에서 발생한다. OpenAI는 같은 발표에서 AI가 여전히 진단이나 치료에는 부적합하다고 밝혔다. Epic은 자체 입장을 내지 않았다.