Медицинские специалисты, компании и исследователи годами говорили о пользе ИИ в медицине — от улучшения анализа медицинских изображений до прогнозов, что нейросети смогут обогнать врачей в диагностике и даже приблизят открытие «лекарства от рака». Однако новое исследование показало, что врачи, регулярно использующие ИИ, уже через несколько месяцев стали хуже справляться с выявлением онкологических заболеваний. Об этом со ссылкой на публикацию The Lancet Gastroenterology and Hepatology, сообщает Time

Согласно новым наблюдениям, за полгода клиницисты, привыкшие к рекомендациям ИИ, стали «менее мотивированными, менее сосредоточенными и менее ответственными при принятии решений без его помощи». Исследование стало еще одним доказательством возможных негативных эффектов технологий для пользователей. Ранее команда Массачусетского технологического института установила, что ChatGPT снижает навыки критического мышления.

В рамках наблюдательного исследования ученые из нескольких европейских институтов проанализировали работу четырех эндоскопических центров в Польше, участвовавших в проекте «Искусственный интеллект в колоноскопии для профилактики рака» (Artificial Intelligence in Colonoscopy for Cancer Prevention (ACCEPT)), финансируемом Еврокомиссией и Японским обществом содействия науке. С конца 2021 года там применялись ИИ-системы для обнаружения полипов — доброкачественных или злокачественных образований.

В общей сложности с сентября 2021 по март 2022 года было проведено 2 177 колоноскопий, из которых 1 443 — без ИИ-помощи. Исследователи сравнили качество диагностики за три месяца до внедрения ИИ и через три месяца после, когда колоноскопии проводились как с помощью ИИ, так и без него, в случайном порядке. В результате оказалось, что до внедрения ИИ показатель выявления аденом (ADR) составлял около 28%. Через три месяца после внедрения, при работе без ИИ, ADR снизился до 22%.

Adenoma Detection Rate, или показатель выявляемости аденом — это процент скрининговых колоноскопий, при которых врач обнаруживает хотя бы одну подтвержденную гистологией аденому (доброкачественное предраковое образование) или аденокарциному (рак), чем выше ADR, тем ниже риск развития колоректального рака у пациентов, это один из основных международных индикаторов качества работы эндоскописта.

При этом с ИИ показатель был выше, чем без него, однако навыки врачей при самостоятельной диагностике ухудшились. Авторы объясняют падение показателей «естественной склонностью человека полагаться на системы поддержки решений». Соавтор исследования Марцин Романчик сравнил это с «эффектом Google Maps» — когда человек, привыкший к навигатору, теряет умение пользоваться обычной картой.

Доктор Омер Ахмад из Университетского колледжа Лондона, комментируя работу, отметил, что зависимость от ИИ могла ослабить у врачей привычку к внимательному визуальному поиску и точность осмотра — ключевые навыки в обнаружении полипов. Это, по его словам, может снизить уверенность в диагнозе и даже повлиять на мануальные навыки при управлении колоноскопом.

Кэтрин Менон из Университета Хартфордшира подчеркнула, что это первое исследование с реальными клиническими данными, указывающее на возможную потерю навыков от применения ИИ при диагностике колоноскопии.

В то же время другие эксперты призывают не делать поспешных выводов, указывая на рост общего числа процедур, что могло вызвать усталость врачей и снизить показатели. Снижение навыков при автоматизации — не уникальная проблема ИИ, а общий риск при внедрении любой новой технологии, считают представители лагеря защитников ИИ.

Inside Creative House / Shutterstock / Fotodom