Искусственный интеллект ещё сильнее ухудшает плохую медицину

Вячеслав Голованов 23.01.2020 11:55 | Наука и техника 55

Новое исследование Google на первый взгляд показывает многообещающие возможности здравоохранения, которому помогает ИИ. На деле же оно демонстрирует надвигающуюся угрозу.

Исследователи из Google попали в заголовки в начале 2020 года со своим исследованием, где заявили, что их система искусственного интеллекта (ИИ) способна лучше людей-экспертов находить рак груди по маммограммам. Звучало это, как большая победа, и ещё один пример того, как ИИ вскорости изменит наше здравоохранение: находим больше опухолей! Меньше ложных положительных выводов! Улучшенный и более дешёвый способ обеспечения качественных медицинских услуг!

Но поберегите восклицательные знаки. Здравоохранение на основе компьютеров может принести нам много пользы в будущем, однако всё будет зависеть от того, как мы будем его использовать. Если доктор изначально задаёт неправильный вопрос – если они отправляют ИИ на поиск информации, основанной на ложных предположениях – тогда вся эта технология нам не поможет. Она даже может послужить усилителем наших предыдущих ошибок.

В каком-то смысле, так и произошло с недавней работой от Google. Она пытается воспроизвести, а потом превзойти эффективность человека в задаче, которая по сути своей является глубоко порочной медицинской практикой. Если вы не следили за десятилетиями споров по поводу поиска опухолей, суть состоит в следующем: если подвергать маммографическим исследованиям людей, не имеющих никаких симптомов, вы будете находить много таких вещей, которые выглядят, как рак, но не угрожают жизни пациента. С развитием биологических исследований рака и распространением массовых медицинских обследований населения исследователи обнаружили, что не каждая опухоль обязательно станет смертельной. У многих людей имеются безболезненные или вялотекущие формы рака, не представляющие никакой угрозы для их здоровья. К сожалению, стандартные обследования тяготеют к тому, чтобы находить именно последние формы рака – медленно растущие опухоли, которые лучше всего игнорировать.

В теории, это не так уж и плохо. Когда во время скрининга обнаруживают безобидный рак, его можно просто игнорировать, не так ли? Однако проблема в том, что на момент скрининга практически невозможно узнать, окажется ли конкретное поражение опасным или ерундовым. На практике большинство докторов склонны считать любой обнаруженный рак потенциальной угрозой, и вопрос того, спасают ли маммограммы жизни или нет, остаётся темой жарких споров. Некоторые исследования говорят, что это так и есть, другие говорят, что нет, но даже если мы примем на веру самые радужные интерпретации литературы, то количество жизней, спасённых благодаря этому массивному скринингу, окажется малым. Некоторые исследователи даже подсчитали, что маммография в целом вредит здоровью пациентов – то есть, чрезмерное лечение и появление опухолей, возникающих из-за лечебного облучения, перевешивает пользу.

Иначе говоря, ИИ-системы вроде той, что предлагает Google, обещают объединить усилия людей и машин для облегчения постановки диагнозов, но у них также есть потенциал ухудшить уже существующие проблемы, такие, как чрезмерное тестирование, излишне пессимистичные диагнозы и несоразмерное лечение. Непонятно даже, сработает ли улучшение в устранении ложно-положительных и ложно-отрицательных диагнозов, о котором сообщали разработчики, в реальном мире. В исследовании обнаружилось, что ИИ показал себя лучше рентгенологов, не обученных исследованию маммограмм. Превзойдёт ли он команду специализированных экспертов? Сложно сказать, не проводя тестов. Более того, большинство изображений, использованных в исследовании, было сделано при помощи устройств от одной компании. Остаётся непонятным, можно ли будет распространить эти результаты на изображения, полученные на других машинах.

И эта проблема больше, чем просто скрининг рака груди. Часть привлекательности ИИ состоит в том, что он умеет просеивать огромные объёмы знакомых данных, и выбирать оттуда переменные, которые не казались нам важными. В принципе, такая способность может помочь нам диагностировать любое заболевание на ранней стадии так же, как небольшие колебания сейсмографа могут предупредить нас о землетрясении заранее (ИИ и на этом фронте помогает, кстати). Но иногда эти скрытые переменные оказываются не такими уж важными. К примеру, ваш набор данных мог быть собран в клинике скрининга рака, которая занимается раком лёгких только по пятницам. В итоге алгоритм ИИ может решить, что в изображениях, сделанных по пятницам, больше вероятность обнаружить рак лёгких. И эта тривиальная связь может потом попасть в формулу, отвечающую за будущие диагнозы.

Даже точный ранний диагноз заболевания не всегда оказывается благом. Другие недавние проекты, связанные с ИИ в медицине, сконцентрировались на раннем обнаружении болезни Альцгеймера и аутизма – двух заболеваниях, при которых ускорение их диагностирования в любом случае не сильно изменит результат. Это подходящие для создания шумихи возможности продемонстрировать, как алгоритм может обучиться определять характеристики, которые мы обучаем его искать, но они не представляют собой каких-то продвижений медицины, которые что-то изменят в жизни пациентов.

Некоторые варианты использования алгоритмов и машинного обучения (МО) могут даже привести к появлению новых сложных проблем у медиков. Рассмотрим функцию Apple
Watch, позволяющую обнаруживать фибрилляцию предсердий – разновидность аритмии, фактор риска инфаркта. Фибрилляцию предсердий лечат средствами, разжижающими кровь, но их побочный эффект может привести к тому, что небольшое падение выливается в опасную для жизни травму. Если вам действительно грозит риск инфаркта, тогда этот риск оправдан. А что насчёт людей, фибрилляцию предсердий которых обнаружили умные наручные часы? Обычно это заболевание диагностируют, когда пациент приходит к врачу с жалобами на симптомы; а теперь Apple отслеживает состояние здоровых людей без симптомов, и появляются новые случаи, которые, возможно, никогда бы и не нашли в поликлинике. Неясно, получит ли эта группа пациентов преимущества от лечения.

«Нам неизвестно, совпадают ли две этих популяции», — говорит Венкатеш Мёрти, кардиолог из Сердечно-сосудистого центра Франкеля в Энн-Харбор, Мичиган. Более полезным подходом было бы использовать ИИ для определения людей, которые получат наибольшую пользу от существующих методов лечения.

Если ИИ действительно хочет стать революционным подходом, ему нужно не просто восстановить status quo в медицине; а перед принятием подобного подхода важно ответить на пару фундаментальных вопросов: какую проблему эта технология пытается решить, и как она сможет улучшить результаты работы с пациентами? На поиск ответов может уйти довольно много времени.

Поэтому знаменитый девиз Марка Цукерберга, «Двигайся быстро, круши устои», может подходить для Facebook, но не для медицины, помогает ей ИИ, или нет. Как говорит Винай Прасад, автор книги «Предотвращение медицинских неудач«, гематолог-онколог из Орегонской медицинской университетской школы здравоохранения и наук, образ мыслей обитателей Кремниевой долины может быть опасен для практикующих врачей. Именно подобный подход – когда жизни под угрозой, нужно как можно скорее выпускать в оборот новые многообещающие идеи – и привёл нас к существующей сегодня неразберихе со скринингом рака. Маммографию взяли на вооружение ещё до появления всех свидетельств, говорит Прасад, и после того, как медицинская практика стала стандартом, её очень сложно свернуть. «В культуре, привыкшей к безотлагательным мерам и раздутым заявлениям, сложно быть скромным и терпеливым».

Сейчас на главной
Статьи по теме

Популярное за неделю