Может ли ИИ поставить диагноз лучше врача?

Хорош ли ИИ в роли врача? Результаты сразу двух исследований говорят не в пользу искусственного интеллекта.

В первом исследовании (опубликовано в журнале JAMA Network Open) авторы решили проверить, насколько ИИ способен "мыслить" как врач на раннем этапе, когда информации мало и нужно проводить дифференциальную диагностику. В эксперименте участвовали 21 "нейронка" (включая самые известные чат-боты), в них загрузили клинические сценарии, имитирующие реальные обращения пациентов. Оказалось, что именно на этом этапе ИИ чаще всего даёт сбой: более чем в 80% случаев модели неправильно формировали список возможных причин заболевания или упускали критически важные варианты. При этом, когда им уже предоставляли более полные данные (результаты анализов, визуализацию и уточнённую клиническую картину), точность резко возрастала. 

В общем, проблема не столько в (не)способности ИИ распознавать известные паттерны, сколько в умении работать с неопределённостью и пошагово сужать круг гипотез, как это делает врач. Именно поэтому такие системы пока нельзя безопасно использовать как самостоятельный инструмент первичной диагностики.

Второе исследование (из журнала BMJ Open) было сосредоточено на качестве медицинских советов, которые дают популярные чат-боты в ответ на реальные пользовательские вопросы. Авторы проанализировали ответы на широкий спектр тем, включая спорные и потенциально опасные области, где чрезвычайно распространена дезинформация. Они обнаружили, что модели нередко выдают ответы уверенным и убедительным тоном, причём даже в тех случаях, когда информация неполная, спорная или вообще неверная. В ряде случаев советы могли быть потенциально вредными, например, из-за недооценки серьёзности симптомов или излишне обобщённых рекомендаций. При этом одна из ключевых проблем заключалась не только в точности самих ответов, но и в отсутствии чётких границ уверенности: ИИ редко явно сигнализирует, где заканчиваются его "надёжные знания" и начинаются галлюцинации и догадки. В результате пользователь может воспринимать такой ответ как полноценную медицинскую рекомендацию.

Авторы подчёркивают, что даже при хорошем уровне общей осведомлённости ИИ остаётся крайне рискованным источником медицинских советов, если всё это происходит без участия специалиста, который способен быстро и профессионально оценить ситуацию.

Алесей Водовозов, научный журналист и медицинский блогер. Врач-терапевт высшей квалификационной категории, токсиколог, член Комиссии РАН по популяризации науки

Ранее мы писали: 
Россияне верят ИИ в медицине, но предпочитают лечиться у живых врачей;
Искусственный интеллект в здравоохранении должен снизить нагрузку на медперсонал;
Сможет ли искусственный интеллект заменить врачей в скором будущем?