ВЕНА — На Конгрессе Европейского респираторного общества (ERS) 2024 эксперты обсудили преимущества и риски применения искусственного интеллекта (ИИ) в медицине, а также рассмотрели этические последствия и практические проблемы.
С 2020 года в Управлении по контролю за продуктами и лекарствами США зарегистрировано более 600 медицинских устройств на базе ИИ, и ИИ быстро проникает в системы здравоохранения. Но, как и любое другое медицинское устройство, инструменты ИИ должны проходить тщательную оценку и соответствовать строгим правилам.
Джошуа Хазерли, доктор философии, научный сотрудник Школы философии и истории идей Орхусского университета в Дании, сказал, что традиционные биоэтические принципы — автономия, благодеяние, непричинение вреда и справедливость — остаются важнейшей основой для оценки этики в отношении использования инструментов ИИ в медицине. Однако он сказал, что новый пятый принцип «объяснимости» привлек внимание из-за уникальных характеристик систем ИИ.
«Сейчас все с энтузиазмом относятся к ИИ, но есть много открытых вопросов о том, насколько мы можем ему доверять и в какой степени мы можем его использовать», — рассказала Ана Каталина Эрнандес Падилья, клинический исследователь из Университета Лиможа, Франция. Медицинские новости Medscape.
Джозеф Олдерман, бакалавр медицины и хирургии, научный сотрудник по клиническим исследованиям в области искусственного интеллекта и цифрового здравоохранения в Институте воспаления и старения Бирмингемского университета (Великобритания), сказал, что сейчас, несомненно, наступило интересное время для работы в сфере искусственного интеллекта и здравоохранения, но он считает, что врачи должны стать «частью истории» и выступать за безопасный, эффективный и справедливый ИИ.
Плюсы
Олдерман отметил, что ИИ имеет огромный потенциал для улучшения здравоохранения и качества обслуживания пациентов.
Одной из интересных областей применения ИИ является процесс информированного согласия. Разговорные модели ИИ, как и большие языковые модели, могут предоставить пациентам неограниченную по времени платформу для обсуждения рисков, преимуществ и рекомендаций, потенциально улучшая понимание и вовлеченность пациентов. Системы ИИ также могут предсказывать предпочтения некоммуникабельных пациентов, анализируя их социальные сети и медицинские данные, что может улучшить принятие суррогатных решений и гарантировать, что лечение будет соответствовать предпочтениям пациентов, объяснил Хазерли.
Другим значительным преимуществом является способность ИИ улучшать результаты лечения пациентов за счет лучшего распределения ресурсов. Например, ИИ может помочь оптимизировать распределение больничных коек, что приведет к более эффективному использованию ресурсов и улучшению результатов лечения пациентов.
Системы ИИ могут сократить количество врачебных ошибок и улучшить диагностику или планы лечения посредством масштабного анализа данных, что приводит к более быстрому и точному принятию решений. Он может выполнять административные задачи, снижая выгорание врачей и позволяя медицинским работникам больше сосредоточиться на уходе за пациентами.
ИИ также обещает способствовать равенству в здравоохранении, улучшая доступ к качественной помощи в районах с недостаточным уровнем обслуживания. В сельских больницах или развивающихся странах ИИ может помочь заполнить пробелы в клинической экспертизе, потенциально уравнивая возможности доступа к здравоохранению.
Минусы
Несмотря на свой потенциал, ИИ в медицине представляет несколько рисков, которые требуют тщательного этического рассмотрения. Одной из основных проблем является возможность встроенной предвзятости в системах ИИ.
Например, советы от агента ИИ, основанные на ИИ, могут отдавать приоритет определенным результатам, таким как выживание, на основе широких стандартов, а не уникальных ценностей пациента, что потенциально не соответствует предпочтениям пациентов, которые ценят качество жизни выше долголетия. «Это может помешать самостоятельным решениям пациентов», — сказал Хазерли.
Системы ИИ также имеют ограниченную обобщаемость. Модели, обученные на определенной популяции пациентов, могут работать плохо при применении к разным группам из-за изменений в демографических или клинических характеристиках. Это может привести к менее точным или неподходящим рекомендациям в реальных условиях. «Эти технологии работают на очень узкой популяции, на которой был разработан инструмент, но не обязательно могут работать в реальном мире», — сказал Олдерман.
Другим существенным риском является алгоритмическая предвзятость, которая может усугубить неравенство в здравоохранении. Модели ИИ, обученные на предвзятых наборах данных, могут увековечить или усугубить существующее неравенство в предоставлении медицинских услуг, что приведет к неоптимальному уходу за маргинализированными группами населения. «У нас есть доказательства того, что алгоритмы напрямую дискриминируют людей с определенными характеристиками», — сказал Олдерман.
Черный ящик ИИ
Системы ИИ, особенно те, которые используют глубокое обучение, часто функционируют как «черные ящики», что означает, что их внутренние процессы принятия решений непрозрачны и их трудно интерпретировать. Хазерли сказал, что это отсутствие прозрачности вызывает серьезные опасения относительно доверия и ответственности в принятии клинических решений.
Хотя методы объяснимого ИИ были разработаны для того, чтобы дать представление о том, как эти системы генерируют свои рекомендации, эти объяснения часто не охватывают процесс рассуждения в полной мере. Хазерли объяснил, что это похоже на использование фармацевтического лекарства без четкого понимания механизмов, по которым оно работает.
Эта непрозрачность в принятии решений с помощью ИИ может привести к недоверию среди врачей и пациентов, ограничивая его эффективное использование в здравоохранении. «Мы на самом деле не знаем, как интерпретировать информацию, которую он предоставляет», — сказал Эрнандес.
Она сказала, что в то время как молодые врачи могут быть более открыты для проверки воды с помощью инструментов ИИ, практикующие врачи старшего возраста по-прежнему предпочитают доверять своим собственным чувствам, рассматривая пациента в целом и наблюдая за развитием его болезни. «Они не просто ставят галочки. Они интерпретируют все эти переменные вместе, чтобы принять медицинское решение», — сказала она.
«Я действительно оптимистично настроен относительно будущего ИИ», — заключил Хазерли. «Еще предстоит преодолеть множество проблем, но, в конечном счете, недостаточно говорить о том, как ИИ должен быть адаптирован к людям. Нам также нужно говорить о том, как люди должны адаптироваться к ИИ».
Хазерли, Олдерман и Эрнандес не сообщили о каких-либо соответствующих финансовых отношениях.
Мануэла Каллари — внештатный научный журналист, специализирующийся на здоровье человека и планеты. Ее слова были опубликованы в The Medical Republic, Rare Disease Advisor, The Guardian, MIT Technology Review и других.