Клинический искусственный интеллект: учет расхождений с врачами
Краткое изложение публикации в сообществе «Врачи РФ» от .
Исследователи из университетов США предложили фиксировать ход взаимодействия врача с клиническим искусственным интеллектом (ИИ), а не только итоговое решение, особенно когда вывод алгоритма расходится с врачебным суждением. Концепция видимости расхождений (divergence visibility) опубликована в журнале Digital Medicine. Отдельная запись должна охватывать устройство рабочего процесса и интерфейса, данные каждой стороны и то, как врач оценивал логику ИИ.
Авторы называют возможными причинами расхождений нехватку общей информации, разные выводы на основе одинаковых данных или ошибку врача либо системы. В исследовании врачи принимали 58% вредных и 22% полезных рекомендаций ИИ; у врачей, формально обученных оценивать ИИ, диагностическая точность снижалась на 14% при доступе к большим языковым моделям. По мнению авторов, учет расхождений может повысить прозрачность взаимодействия, лучше обосновать моральную ответственность и, возможно, уменьшить юридические риски.
Главное
- Исследователи из университетов США предложили концепцию видимости расхождений в клиническом взаимодействии врача и ИИ.
- Учет должен охватывать структуру рабочего процесса, информацию каждой стороны и поведение врача при оценке логики ИИ.
- Расхождения могут быть связаны с асимметрией информации, разными выводами на общих данных или ошибкой одной из сторон.
- Врачи принимали 58% вредных рекомендаций системы и 22% полезных.
- У обученных оценке ИИ врачей диагностическая точность снижалась на 14% при доступе к большим языковым моделям.
Подготовлено автоматически с помощью ИИ, возможны неточности. Полный просмотр материала доступен только для медицинских специалистов с высшим медицинским образованием.
Войти Регистрация