Новое исследование показывает, рентгенологам не стоит полностью доверять ИИ в диагностике

В диагностике заболевания врачи в последнее время часто доверяют искусственному интеллекту, не проверяя правильность его ответов. Иногда это приводит к ошибке в постановке диагноза.

Группа американских исследователей решила изучить, как тип рекомендаций, предложенных искусственным интеллектом, а также их точность, влияют на процесс диагностики. Для эксперимента они пригласили 220 врачей для анализа рентгеновских снимков грудной клетки с использованием рекомендаций, созданных с помощью ИИ. В исследовании участвовали рентгенологи, а также специалисты по внутренним болезням и неотложной медицинской помощи. Врачи могли принимать, корректировать или отклонять предложения искусственного интеллекта.

Исследование показало, что врачи зачастую слепо доверяли ответам ИИ, не перепроверяя их самостоятельно. Когда искусственный интеллект предоставлял верные рекомендации, диагностическая точность вырастала до 92,8%. Однако в случае неверных диагнозов ИИ, точность диагностики снижалась до 23,6%.

"Когда мы слишком полагаемся на то, что нам говорит компьютер, это становится проблемой, потому что ИИ не всегда прав. Я думаю, что как рентгенологи, использующие ИИ, мы должны знать об этих подводных камнях и помнить о наших диагностических моделях и обучении", – говорит доктор медицины Пол Х. Йи, один из авторов исследования.