OpenAI объявила 1 сентября, что организации здравоохранения могут подключать свои среды электронной медицинской карты Epic к ChatGPT for Healthcare; среди первых организаций запуска — Cedars-Sinai, Memorial Sloan Kettering, HCA Healthcare, UCSF Health, Boston Children's Hospital, AdventHealth и Baylor Scott & White. Врачи могут извлекать заметки о приёмах, результаты анализов, список лекарств и документацию специалистов и задавать вопросы по всей карте; в некоторых внедрениях ChatGPT встроен прямо в интерфейс EHR.
Что на самом деле означает число по безопасности
Представленные доказательства — это упражнение с оценками врачей, проведённое самим вендором, а не испытание и не клиническое исследование: 4 363 оценки врачей по 27 клиническим сценариям, из которых 99,1% были признаны безопасными. Это оставляет примерно 39 ответов ниже порога безопасности. Публикуемой методологии нет, рецензирования нет и независимого воспроизведения нет, а сами рецензенты были привлечены вендором. Отдельно сообщается диапазон точности 93,2%–98,6% для пяти подключений к публичным данным — ClinicalTrials.gov, CMS Coverage, RxNorm, DailyMed и PubMed.
Что неверно в распространённой трактовке
Здесь сразу две искажающие трактовки работают в противоположных направлениях. «325 миллионов пациентов» — это общий охват Epic, а не доступная аудитория: подключение привязано к конкретной организации, является добровольным и требует соглашения Business Associate Agreement по HIPAA, так что охват в первый день — это лишь тот сегмент клиентов Epic, который включит его. И 4 363 — это число оценок, а не врачей, что смешали между собой несколько публикаций. Ничего из этого не было одобрено FDA; клиническая поддержка решений такого типа находится вне регулирования как медицинское изделие, поэтому формулировка о том, что система «допущена к использованию в больницах», попросту неверна.
Ограничение только для чтения работает в обе стороны
Доступ только для чтения — модель ничего не записывает обратно в карту. Это и есть выбранная схема управления, и одновременно ограничение для рабочих процессов: каждый результат остаётся незафиксированной подсказкой, которую врачу нужно будет вносить вручную. Именно на это ограничение, вероятнее всего, первым окажет давление коммерческий интерес: подсказка, которую нельзя сохранить, — это подсказка, которую кому-то придётся перепечатывать.
Где сохраняется остаточный риск
Около 39 ответов, не прошедших порог, возникают именно в том сценарии, который здесь и продаётся: врач читает сводку по карте, которую он сам не открывал. В том же сообщении OpenAI подчёркивает, что ИИ по-прежнему непригоден для диагностики или лечения. Epic собственного заявления не делала.