ChatGPT влиял на моральный выбор участников исследования о дилемме вагонетки
Краткое изложение публикации в сообществе «Врачи РФ» от .
Исследование ученых Технического университета прикладных наук Ингольштадта и Университета Южной Дании показало, что ответы ChatGPT влияли на моральные решения пользователей. В эксперименте более 700 жителей США оценивали дилеммы, в которых ради спасения пятерых предлагалось пожертвовать одним человеком. Участникам показывали диалоги с чат-ботом, выступавшим то за, то против такого выбора; рекомендации влияли на решения даже тех, кто знал, что их дал искусственный интеллект. При этом 80% участников не признали, что советы повлияли на их собственный выбор. Кроме того, 79% считали свое поведение более этичным, чем поведение других. Исследователи отметили непоследовательность ответов ChatGPT и предложили разрабатывать чат-боты так, чтобы они отказывались от моральных рекомендаций или приводили аргументы с обеих сторон. Авторы также указали на важность цифровой грамотности пользователей.
Главное
- В эксперименте участвовали более 700 жителей США; средний возраст участников составлял 39 лет, 63% были женщинами.
- Ответы ChatGPT за и против жертвы одного человека влияли на решения участников даже при известном происхождении совета.
- 80% участников не признали, что рекомендации ChatGPT повлияли на их выбор.
- 79% участников считали свое поведение более этичным, чем поведение других.
Подготовлено автоматически с помощью ИИ, возможны неточности. Полный просмотр материала доступен только для медицинских специалистов с высшим медицинским образованием.
Войти Регистрация