Этические оценки нейросети зависят от текстов для обучения
Краткое изложение публикации в сообществе «Врачи РФ» от .
Исследователи Дармштадтского технического университета изучили, как нейросетевой алгоритм оценивает этические вопросы, и установили, что его ответы зависят от обучающих текстов. Модель на основе Универсального кодировщика предложений размещала фразы в 512-мерном векторном пространстве и сопоставляла вопросы с вариантами ответа. При смене контекста оценки менялись: например, алгоритм различал убийство людей и убийство времени. Некоторые результаты оказались неожиданными: модель относила стремление к истине и вступление в брак к нежелательным действиям, но считала допустимой пытку заключенных. Авторы повторно обучили алгоритм на книгах разных веков, новостях, религиозных текстах и конституциях 193 стран — всего примерно на 250 миллионах предложений. Оценки действий различались в зависимости от корпуса, что, по выводу авторов, показывает возможность извлекать этические установки из текстов.
Главное
- Алгоритм использовал Универсальный кодировщик предложений и 512-мерное векторное пространство.
- Модель считала стремление к истине и вступление в брак нежелательными действиями, а пытку заключенных — допустимой.
- Для повторного обучения использовали книги, новости, религиозные тексты и конституции 193 стран.
- Общий объем текстов для повторного обучения составлял около 250 миллионов предложений.
Подготовлено автоматически с помощью ИИ, возможны неточности. Полный просмотр материала доступен только для медицинских специалистов с высшим медицинским образованием.
Войти Регистрация