BMJ Digital Health & AI에 게재된 에든버러대의 27개 연구 검토는 ambient AI scribes가 임상 진료 상담 자체에 어떤 변화를 일으키는지 살핀다. 핵심은 전사 정확도가 아니며, 바로 그것이 포인트다.
도입은 이미 광범위하다
"영국의 GP 중 약 40%가 ambient scribes를 사용했다고 답했다" — 이는 근거가 축적되기도 전에 1차 진료 현장에 대규모로 도입된 기술이다. 이 수치는 벤더 텔레메트리가 아니라 자기보고식 설문 데이터라는 점을 염두에 둘 필요가 있지만, 규모 자체가 이 사안의 핵심이다.
기록에서 사라지는 것
Scribes는 "얼굴 표정, 몸짓, 감정 상태 등 상담의 중요한 측면을 놓친다", 그리고 "AI 요약은 임상 정보를 우선시하는 경향이 있어 환자의 이야기가 희생될 수 있다." 요약본은 단순히 사람의 메모보다 짧은 것이 아니라, 체계적으로 임상 정보 쪽으로 기울고 서사 정보에서는 멀어진다.
환자들은 발언을 바꾼다
가장 날카로운 발견은 행동 변화다. 환자들은 상담이 녹음되고 있다는 사실을 알면 약물 남용, 가정폭력, 정신건강 문제 같은 민감한 정보를 공개하기를 주저할 수 있다고 연구는 지적한다. 어떤 수준의 음성 인식 개선도 이 문제를 해결하지 못한다. 검토는 또 업무 역량 저하 가능성도 제기한다. 인지적 오프로딩이 "기억 회상과 기술 발달을 저하시킬 수 있다"는 것이며, "임상의들은 자신이 작성한 메모를 알아보지 못하거나 다음에 그 환자를 만났을 때 기억하지 못하는 사례를 보고한다."
통상적인 해석이 놓치는 것
헤드라인은 "AI 메모가 중요한 정보를 놓친다"고 쓰지만, 이는 더 나은 모델이면 해결될 정확도 실패처럼 들린다. 그러나 이는 측정 연구가 아니며, 오류율도 전혀 보고하지 않는다. 이는 도입 위험에 대한 검토이며, 핵심 주장은 행동에 관한 것이다 — 환자들이 무엇을 숨기는지, 그리고 임상의들이 무엇을 덜 기억하게 되는지다. 여기에는 두 가지 한계가 있다. 이는 시험이 아니라 27편의 논문을 종합한 것이며, 업무 역량 저하 관련 내용은 저자들의 새로운 측정이 아니라 검토된 문헌에서 가져온 것이다.