Суперинтеллект и риск для человечества: оценки Хинтона и Лекуна
Краткое изложение авторской публикации врача в сообществе «Врачи РФ» от .
Автор материала рассматривает возможные риски суперинтеллекта и сопоставляет оценки Джеффри Хинтона и Яна Лекуна. По приведенным в статье заявлениям, Хинтон оценивает вероятность гибели человечества из-за ИИ в ближайшие 30 лет в 20%; он опасается потери контроля над системой, превосходящей человека по интеллекту. Лекун считает экзистенциальные опасения преувеличенными и полагает, что нынешние нейросети не обладают самостоятельными целями и пониманием мира.
Автор различает узкий ИИ, общий искусственный интеллект и гипотетический суперинтеллект, а среди ключевых рисков последнего выделяет несоответствие целей системы человеческим интересам. В части о регулировании автор сопоставляет жесткий контроль разработки с открытым распространением технологий и предлагает сочетать доступность фундаментальных моделей с ограничениями на их применение в чувствительных сферах.
Главное
- В статье указано, что Джеффри Хинтон оценил вероятность гибели человечества от ИИ в ближайшие 30 лет в 20%.
- Ян Лекун, согласно материалу, считает экзистенциальные риски ИИ преувеличенными.
- Автор выделяет несоответствие целей суперинтеллекта человеческим интересам как один из ключевых рисков.
Что говорят врачи
Участники обсуждают, может ли превосходящий людей ИИ стать угрозой человечеству. Часть коллег предполагает, что он скорее подчинил бы людей и регулировал их жизнь, чем уничтожил; другие видят в таком сценарии риск изоляции и лишения свободы. В отдельной ветке спорят о том, как соотнести опасность суперинтеллекта с идеями о противодействии силам, способным вызвать хаос. Там подчёркивают, что проблема не в интеллекте самом по себе, а в его бесконтрольности и концентрации влияния, и ставят вопрос о роли общественного контроля.
Обобщение обсуждения публикации в сообществе «Врачи РФ» (22 комментария). Без цитат и имён участников. Само обсуждение доступно врачам после входа.
Подготовлено автоматически с помощью ИИ, возможны неточности. Полный просмотр материала доступен только для медицинских специалистов с высшим медицинским образованием.
Войти Регистрация