ИИ и медицина: насколько стабильны ответы Яндекс Алисы AI
Краткое изложение авторской публикации врача в сообществе «Врачи РФ» от .
Автор материала описывает, как Яндекс Алиса AI по-разному интерпретировала одни и те же четыре строки о рейтингах и связывала их с песней «Кометы» polnalyubvi. В первом ответе сервис представил строки как текст песни, хотя текст композиции, приведённый автором, отличался. При повторном поиске Алиса назвала четверостишие изменённым куплетом и липограммой. Ещё один ответ снова приписал эти строки песне и предложил трактовку образов рейтинга и природных стихий. На примере меняющихся ответов автор ставит вопрос о надёжности ИИ и готовности применять такие системы в медицине, в том числе для интерпретации исследований.
Главное
- Яндекс Алиса AI трижды по-разному ответила на запрос с одним и тем же четверостишием о рейтингах.
- В одном ответе Яндекс Алиса AI назвала четверостишие изменённым куплетом песни «Кометы» polnalyubvi.
- В другом ответе Алиса назвала строки липограммой и предположила, что это может быть авторская находка или результат поиска рифмы.
- Автор материала задаётся вопросом о готовности применять ИИ в медицине.
Что говорят врачи
Участники опасаются, что непостоянные и порой вымышленные ответы ИИ могут привести к ошибкам, особенно если в медицине ему будут чрезмерно доверять или перекладывать на него ответственность. Они отмечают, что реальная клиническая практика часто сложнее типовых рекомендаций, а последствия ошибок затрагивают пациентов. Часть коллег возражает, что качество ответов зависит от выбранной модели и способа её настройки: публичные сервисы не равны специализированным инструментам. Также звучит обеспокоенность тем, что медицинские организации могут внедрять не самые подходящие системы, а пациенты порой воспринимают ответы ИИ убедительнее слов врача.
Обобщение обсуждения публикации в сообществе «Врачи РФ» (18 комментариев). Без цитат и имён участников. Само обсуждение доступно врачам после входа.
Подготовлено автоматически с помощью ИИ, возможны неточности. Полный просмотр материала доступен только для медицинских специалистов с высшим медицинским образованием.
Войти Регистрация