ИИ-сервисы для пациентов: исследование выявило ошибки и рискованные советы
Краткое изложение публикации в сообществе «Врачи РФ» от .
Риски медицинских ИИ-сервисов для пациентов эксперты обсудили на конференции «ИТМ ИИ 2026». Популярные иностранные модели, интерпретирующие результаты лучевых исследований, проверили специалисты ДЗМ из Научно-практического клинического центра диагностики и телемедицинских технологий. В ответах обнаружили выдуманные диагнозы, рекомендации по приёму лекарств сверх необходимого и советы народной медицины без доказанной эффективности и безопасности. Некоторые сервисы отвечали категорично и использовали формулировки, способные напугать пользователей.
По данным исследования Университетского колледжа Лондона, представленным на конференции, точность ИИ при самостоятельной диагностике достигала 95 процентов, а в диалоге с пользователем снижалась до 35 процентов. Участники конференции также обсуждали проект отраслевого этического кодекса: документ подготовлен и в ближайшее время будет опубликован для обсуждения. Эксперты предложили регистрировать ИИ-сервисы для пациентов как медицинские изделия.
Главное
- Тестирование иностранных ИИ-моделей выявило выдуманные диагнозы, избыточные рекомендации по лекарствам и советы народной медицины без доказанной эффективности и безопасности.
- В исследовании Университетского колледжа Лондона точность ИИ при самостоятельной диагностике достигала 95 процентов, а в диалоге с пользователем — 35 процентов.
- В исследовании «Индекс Инвитро» 7,4 процента респондентов часто заменяли визит к врачу консультацией с ИИ.
- Более 64 процентов опрошенных хотя бы раз задавали ИИ вопросы о здоровье, а треть делала это регулярно.
- Проект отраслевого этического кодекса для применения ИИ в здравоохранении подготовлен; в ближайшее время его опубликуют для обсуждения.
Подготовлено автоматически с помощью ИИ, возможны неточности. Полный просмотр материала доступен только для медицинских специалистов с высшим медицинским образованием.
Войти Регистрация