ИИ-чат-боты для психического здоровья: применение и риски
Краткое изложение публикации в сообществе «Врачи РФ» от .
Чат-боты на основе искусственного интеллекта всё чаще используют для поддержки при психических трудностях, хотя специалисты предупреждают о рисках таких сервисов. В Квебеке Пьер Коте создал DrEllis на базе открытых языковых моделей и терапевтической литературы, чтобы справляться с ПТСР и депрессией; в США Ансон Уитмер основал платформы Mental и Mentla.
Психотерапевт Найджел Маллиган считает, что ИИ не способен заменить человеческий контакт и эмоциональную интуицию. Эксперты также указывают, что чат-бот может недооценить угрозу самоубийства, а данные пользователей могут попасть к технологическим компаниям, не связанным медицинской тайной. Иллинойс, Невада и Юта уже ограничили использование ИИ в сфере психического здоровья. Исследование в журнале PNAS показало, что ощущение пользователей, будто их услышали, исчезает, когда они узнают, что ответы сгенерированы алгоритмом. Некоторые специалисты допускают применение ИИ как вспомогательного инструмента для терапевтов, но не как замену терапии.
Главное
- Пьер Коте создал чат-бот DrEllis на основе открытых языковых моделей и терапевтической литературы.
- Ансон Уитмер основал в США платформы Mental и Mentla.
- Иллинойс, Невада и Юта ограничили применение ИИ в сфере психического здоровья.
- Исследование в журнале PNAS показало, что эффект ощущения, будто пользователя услышали, исчезает после раскрытия алгоритмического происхождения ответа.
Подготовлено автоматически с помощью ИИ, возможны неточности. Полный просмотр материала доступен только для медицинских специалистов с высшим медицинским образованием.
Войти Регистрация