Una rassegna dell'Università di Edimburgo su 27 studi, pubblicata su BMJ Digital Health & AI, esamina cosa cambiano gli ambient AI scribes nella consultazione clinica stessa. La risposta non riguarda l'accuratezza della trascrizione, ed è proprio questo il punto.
L'adozione è già ampia
"Circa il 40 per cento dei medici di base nel Regno Unito ha dichiarato di aver utilizzato ambient scribes" — una tecnologia adottata su larga scala nell'assistenza primaria prima ancora che si disponesse della base di evidenze. Quel dato è frutto di sondaggi auto-riferiti, non di telemetria dei fornitori, un elemento da tenere presente, ma è l'ordine di grandezza a raccontare la storia.
Cosa perdono gli appunti
Gli scribes "trascurano aspetti importanti delle consultazioni come espressioni facciali, gesti e stato emotivo", e "i riassunti dell'AI tendono a privilegiare le informazioni cliniche, a scapito delle storie dei pazienti." Il riassunto non è semplicemente più breve di una nota redatta da una persona; è sistematicamente sbilanciato verso il clinico e lontano dalla narrazione.
I pazienti cambiano ciò che dicono
Il risultato più netto è comportamentale. I pazienti "potrebbero esitare a rivelare informazioni sensibili, come abuso di sostanze, violenza domestica o difficoltà di salute mentale, quando sanno che la consultazione viene registrata." Nessun miglioramento del riconoscimento vocale risolve questo problema. La rassegna solleva anche il tema della deskilling: il disimpegno cognitivo potrebbe "ridurre la capacità di richiamo della memoria e lo sviluppo delle competenze", e "i clinici riferiscono casi in cui non riconoscono i propri appunti o non ricordano il paziente la volta successiva in cui lo vedono."
In cosa sbaglia il framing ricevuto
I titoli recitano "gli appunti dell'AI perdono informazioni vitali", e questo fa pensare a un problema di accuratezza che modelli migliori potrebbero risolvere. Non si tratta di uno studio di misurazione e non riporta alcun tasso di errore. È una rassegna dei rischi di implementazione, e le sue tesi centrali riguardano il comportamento — ciò che i pazienti trattengono e ciò che i clinici smettono di trattenere. Ci sono due limiti da considerare: si tratta di una sintesi di 27 articoli, non di una sperimentazione, e il materiale sulla deskilling è tratto dalla letteratura esaminata, non da una nuova misurazione degli autori.