Исследователи проверили, как врачи читают рентгеновские снимки новорождённых с подсказками ИИ, и выяснили, что польза от такой связки зависит от опыта человека. Обучающиеся врачи приняли 52 процента неверных подсказок надёжной модели. Три неонатолога отклонили 91,7 процента ошибок намеренно испорченной. Специалистов было трое, и авторы сами называют этот вывод гипотезой. Результаты опубликованы в журнале npj Digital Medicine.
Работа сделана на рентгене, а не в кабинете психолога, и её перенос на психотерапию остаётся гипотезой. Но она касается любого ИИ-помощника, которому доверяют конспект сессии, формулировку случая или скрининг: средняя точность модели ничего не говорит о том, заметит ли человек её ошибку. Хуже всех ошибки замечали наименее опытные — те, чьё собственное суждение ещё складывается.
Медицинский ИИ обычно проверяют в расчёте на простое сложение: модель чувствительна, врач страхует, вместе выходит лучше. Авторы назвали это допущение аддитивным и решили испытать его там, где ошибка стоит дорого. Пневмоперитонеум у новорождённых (свободный газ в брюшной полости, как правило признак прободения кишки) требует срочной операции. Снимок читают быстро.
Первый автор работы — Джунсон Ли (Junseong Lee), руководитель группы из 19 человек — Хи Ман Юн (Hee Mang Yoon). Исследование финансировали Корейский институт развития индустрии здравоохранения (Korea Health Industry Development Institute), Национальный исследовательский фонд Кореи, а также Детская больница и Институт наук о жизни Асан при Медицинском центре Асан. Вместе со статьёй авторы выложили открытый учебный тренажёр.
Исследование построено как перекрёстное с несколькими читающими: врачи разного опыта, от обучающихся до неонатологов, разбирали снимки в двух условиях. В одном подсказки давала высоконадёжная модель. В другом — модель, в которую систематически внесли ошибки. Всего набралось 1750 эпизодов интерпретации, то есть отдельных решений по снимку. Мерили, как часто врач принимал или отклонял неверную подсказку.
С надёжной моделью обучающиеся приняли 52,0 процента неверных подсказок. Авторы пишут: «high AI reliability paradoxically induces automation bias in trainees» («высокая надёжность ИИ парадоксально порождает у обучающихся предвзятость автоматизации», то есть склонность соглашаться с машиной). Опытным надёжная модель дала немного. С испорченной три неонатолога отклонили 91,7 процента ошибок (95-процентный интервал по Уилсону — 83,0–96,0 процента).
Вывод о «поведении часового», как авторы назвали бдительность неонатологов, держится на трёх людях. Сами исследователи пишут: «this finding is hypothesis-generating» («этот вывод лишь порождает гипотезу») — и требуют проспективной проверки. Общее число участников не раскрыто. Снимки отбирались для эксперимента, а не шли в реальную смену. Чтение рентгена — задача с ответом «да или нет», формулировка случая в психотерапии устроена иначе.
Ранее мы писали, что депрессия слабела чуть сильнее, когда врач выбирал то же, что алгоритм, и разбирали, как тезис об ослаблении суждения при частом обращении к модели переносят на частную практику.