Врачебные ошибки в эпоху искусственного интеллекта. Как обезопасить себя

Современные алгоритмы искусственного интеллекта применяются для поддержки врачей в постановке диагнозов, анализе медицинских изображений и подборе персонализированной терапии. Однако возникает вопрос о правовых последствиях в ситуации, когда «цифровой консультант» допускает ошибку. Кому будут предъявлены претензии со стороны пострадавшего пациента, кто осуществит компенсационные выплаты и каким образом возможно восстановить подорванное доверие к системе здравоохранения. Растущая интеграция искусственного интеллекта (ИИ) в медицину требует формирования новых правовых и этических рамок.

Как искусственный интеллект помогает врачам в работе

Вместо того, чтобы во время приема сидеть, уткнувшись в компьютер и не замечать пациента, педиатр общается с ребенком и его родителями, а помощник на основе ИИ фиксирует важные данные диалога в электронной медицинской карте. Гериатр в доме престарелых вписывает препараты каждого пожилого пациента в программу на базе ИИ, чтобы проверить лекарственное взаимодействие. А в загруженном рентгенологическом отделении больницы алгоритм ИИ оценивает КТ головного мозга всех пациентов на предмет инсульта, чтобы ускорить маршрутизацию тяжелых больных. Ни одного из этих врачей не привлекли к ответственности за использование ИИ, но специалисты все чаще задаются вопросом, а есть ли для них риски в случае применения нейропомощников в работе с пациентами.

Недавно редакция Medscape пообщалась с врачами на тему ИИ в здравоохранении. 224-м респондентам предложили прокомментировать утверждение «Я хочу использовать ИИ в работе, но беспокоюсь о риске врачебной ошибки». Выяснилось, что 40% врачей опасаются активно использовать ИИ по юридическим причинам.

Дипика Шривастава, главный операционный директор The Doctors Company, рассказала Medscape Medical News о проблемах врачебной халатности и ИИ, которые волнуют многих специалистов. «Пока что мы не видим ни одного иска, связанного с применением ИИ в клинической практике, но они, вероятно, существуют, — сказала Шривастава, — именно поэтому мы обсуждаем этот вопрос. Правовой системе необходимо адаптироваться к важной роли нейросетей в здравоохранении».

В здравоохранении ИИ можно использовать по-разному в зависимости от типа инструмента и необходимой функции. Узкоспециализированные нейросети популярны. Яркий пример — рентгенология, где нужно найти различия между двумя крупными выборками. ИИ помогает отличить нормальные ткани от патологических, например, выявить новообразования молочной железы или лёгких. По состоянию на июль 2024 года, почти 900 медицинских инструментов на основе ИИ получили одобрение FDA. Они определяют отклонения и выявляют закономерности лучше, чем многие люди, заявил Роберт Перл, доктор медицинских наук, автор книги «ChatGPT, MD. Как пациенты и врачи совместно с искусственным интеллектом контролируют американскую медицину».

По словам Перла, узкоспециализированная нейросеть может повысить скорость и точность диагностики и в других областях, включая дерматологию и офтальмологию. «Пока непонятно, будет ли ИИ полезен в первичной медицинской помощи, неврологии и психиатрии — областях медицины, где большое значение отводится диалогу врача с пациентом и используется много слов». В этих специальностях можно применять генеративный ИИ для хранения ресурсов. В клинической практике ИИ также используется для формирования медицинских карт на основе диалога пациента и врача. 

Нейросеть также можно использовать для планирования, выставления счетов и формирования отчетов для страховых компаний. Для страховщиков отказ в страховых выплатах на основе алгоритмов ИИ стал центральным событием в судебных разбирательствах, которые были освещены в СМИ. 

Международные требования к применению ИИ в медицине

На международном уровне сформирован ряд документов, призванных упорядочить использование медицинских систем на базе машинного обучения. ВОЗ и ЮНЕСКО сформулировали принципы, составившие основу для национальных регуляторных подходов: безопасность пациентов, объяснимость решений, защита прав человека и человеческий контроль над окончательными вердиктами, влияющими на здоровье и жизнь. Они служат фундаментом для конкретных практических обязательств: информированное согласие пациента на применение ИИ, тщательное документирование данных обучения и проведение независимой валидации алгоритмов до внедрения в клиническую практику. На регуляторном уровне эти принципы получают конкретное воплощение. Евросоюз с введением «Акта об искусственном интеллекте» отнес большинство медицинских ИИ-систем к категории высокого риска. Это налагает на разработчиков и операторов строгие требования, включающие проведение всесторонней оценки рисков, обеспечение качества и репрезентативности обучающих наборов данных, создание и поддержание механизмов человеческого надзора на всех этапах.

Российское регулирование развивается в русле общемирового тренда. В 2025 году в стране был утвержден Кодекс этики применения искусственного интеллекта в сфере охраны здоровья. Этот документ, устанавливающий этические принципы, обязательные рекомендации на всех этапах жизненного цикла медицинских систем ИИ согласуется с подходами ВОЗ. Акцент сделан на безопасности пациентов, объяснимости принимаемых алгоритмом решений и защите прав человека. Кодекс детально закрепляет права и обязанности для участников процесса, включая разработчиков, производителей, операторов и конечных пользователей.

Риски врачебных ошибок при использовании ИИ

Применении ИИ в медицине требует точности и конфиденциальности. Что касается точности, ответственность частично определяется типом использования нейросетей. Если диагностический алгоритм ставит неверный диагноз, «юридическую ответственность несёт компания-производитель, поскольку она создала эту нейросеть и должна была ее протестировать», — считает Перл.

Однако при использовании диагностических инструментов на основе ИИ последнее слово остается за человеком. Диагноз все же устанавливает врач, и ему решать, ориентироваться на нейросеть или нет. Если диагноз неверен, «сложно определить, кто ошибся: врач или ИИ» — добавил Шривастава.

При неправильном диагнозе, поставленном ИИ, ответстве...