Чат-бот Babylon Health: врачи выявили риски в медицинских рекомендациях
Краткое изложение публикации в сообществе «Врачи РФ» от .
Врачи Babylon Health выражали опасения, что медицинский чат-бот с искусственным интеллектом мог пропускать признаки серьёзных заболеваний и давать пациентам неверные рекомендации. По результатам аудита, описанного в публикации, в 10–15 % наиболее частых рекомендаций не учитывались опасные симптомы, в том числе признаки онкологических заболеваний.
Заявление Babylon Health о том, что диагностический бот показал точность на уровне врачей, оспорил профессор биоинформатики Хэмиш Фрэзер: по его словам, программа ответила лишь на 15 вопросов из 50, причём для каждого вопроса могла дать до трёх ответов. Чат-боты Babylon использовались в приложениях NHS GP at Hand и NHS 111: Online; первое предлагало доступ к видеозвонку и чат-боту 35 000 пациентам, второе — жителям Северного Лондона. Babylon Health заявляла о регулярном тестировании программ врачами и отрицала обвинения в недостаточном внимании к безопасности.
Главное
- Аудит врачей Babylon Health выявил пропуск опасных симптомов в 10–15 % наиболее частых рекомендаций чат-бота.
- Хэмиш Фрэзер сообщил, что диагностический бот ответил на 15 вопросов из 50 и мог давать до трёх вариантов ответа.
- Приложение NHS GP at Hand предлагало 35 000 пациентам доступ к видеозвонку и чат-боту.
- NHS 111: Online — приложение Babylon Health для жителей Северного Лондона.
Подготовлено автоматически с помощью ИИ, возможны неточности. Полный просмотр материала доступен только для медицинских специалистов с высшим медицинским образованием.
Войти Регистрация