Проверка результатов ИИ: как разбирать повторяющиеся ошибки
Краткое изложение авторской публикации врача в сообществе «Врачи РФ» от .
Автор материала предлагает при повторении ошибки ИИ пересматривать не только промпт, но и этап проверки результата. На вымышленном примере с планом учебной встречи модель добавляет отсутствующих в заметках ответственных и сроки; автор отмечает, что аккуратное оформление может скрыть расхождение с источником.
Для разбора сбоя автор предлагает зафиксировать, что именно придумала модель, почему проверка это пропустила, какой контрольный шаг добавить и как проверить его на новом синтетическом наборе заметок. В качестве проверки следует сопоставлять имена, даты, числа и решения с исходником, а отсутствующие сведения отмечать как «не указано». Автор считает, что рабочий процесс должен включать понятный запрос и независимую проверку человеком. Для журнала ошибок автор рекомендует не использовать данные пациентов, медицинские документы, сведения из МИС и рабочие переписки; достаточно нейтрального или синтетического примера.
Главное
- Автор предлагает при повторении ошибки ИИ пересматривать этап проверки результата, а не только промпт.
- В вымышленном примере ИИ добавляет в план учебной встречи сроки и ответственных, которых нет в заметках.
- Автор предлагает фиксировать сбой, причину его пропуска, новую проверку и способ повторного тестирования.
- Автор рекомендует не включать в журнал ошибок данные пациентов, медицинские документы, сведения из МИС и рабочие переписки.
Подготовлено автоматически с помощью ИИ, возможны неточности. Полный просмотр материала доступен только для медицинских специалистов с высшим медицинским образованием.
Войти Регистрация