ИИ-чат-боты для пациентов: риски ошибок и оценка безопасности
Краткое изложение авторской публикации врача в сообществе «Врачи РФ» от .
Автор материала рассматривает риски применения ИИ-чат-ботов для оценки симптомов и расшифровки медицинских заключений. В исследовании Университетского колледжа Лондона доля верных ответов модели при общении с обычным пользователем снизилась с 80% до 20%; исследователи считают необходимым тестировать чат-боты с участием людей.
Популярные иностранные LLM проверили специалисты Научно-практического клинического центра диагностики и телемедицинских технологий Департамента здравоохранения Москвы; в ответах обнаружились выдуманные диагнозы, избыточные рекомендации и прогнозы исхода заболевания. Европейские ученые выявили, что в 15% случаев LLM оценивали шансы пациентов на выживание без опоры на клинические данные. Среди предложений экспертов — регистрировать чат-боты для пациентов как медицинские изделия в Росздравнадзоре. Подготовленный единый этический свод правил для использования ИИ в здравоохранении планируют опубликовать для обсуждения.
Главное
- В исследовании Университетского колледжа Лондона доля верных ответов ИИ при общении с пациентом снизилась с 80% до 20%.
- Московские исследователи выявили в ответах чат-ботов выдуманные диагнозы и избыточные рекомендации.
- В 15% случаев европейские ученые зафиксировали прогнозы выживаемости пациентов, не подкрепленные клиническими основаниями.
- Эксперт предложил относить чат-боты для пациентов к медицинским изделиям с регистрацией в Росздравнадзоре.
- Единый этический кодекс использования ИИ в здравоохранении подготовлен к публикации для обсуждения.
Подготовлено автоматически с помощью ИИ, возможны неточности. Полный просмотр материала доступен только для медицинских специалистов с высшим медицинским образованием.
Войти Регистрация