ИИ-чат-боты ошибаются в медицинских диагнозах при неполных данных
Краткое изложение публикации в сообществе «Врачи РФ» от .
Популярные ИИ-чат-боты могут ошибаться при постановке медицинского диагноза: в исследовании, опубликованном в JAMA Network Open, при ограниченной информации о пациенте чат-боты давали неверный диагноз более чем в 80% случаев. Проверка включала два десятка моделей и 29 описаний клинических случаев. Точность ИИ-чат-ботов повышалась при более полных данных, а в лучших случаях превышала 90%.
В отдельном исследовании BMJ Open почти половина ответов пяти чат-ботов на 250 вопросов о здоровье получила проблемную оценку: 30% ответов сочли сомнительными, свыше 19% — крайне проблематичными. Специализированные системы анализа медицинских изображений также зависят от качества снимков: точность ведущих моделей на изображениях без нарушений составляла 60–65%, а выраженные дефекты могли снизить ее почти на 30%. Эксперты подчеркивают, что медицинские системы поддержки врача важно отличать от общедоступных чат-ботов.
Главное
- Исследование JAMA Network Open проверило два десятка чат-ботов на 29 описаниях клинических случаев.
- При неполных данных чат-боты ошибались более чем в 80% случаев; в лучших случаях точность превышала 90%.
- В исследовании BMJ Open 30% ответов пяти чат-ботов сочли сомнительными, а свыше 19% — крайне проблематичными.
- Точность ведущих ИИ-моделей на медицинских снимках без нарушений составляла 60–65%.
Подготовлено автоматически с помощью ИИ, возможны неточности. Полный просмотр материала доступен только для медицинских специалистов с высшим медицинским образованием.
Войти Регистрация