Сильный искусственный интеллект: риски и этические ограничения
Краткое изложение авторской публикации врача в сообществе «Врачи РФ» от .
Автор материала рассматривает возможные риски создания сильного (универсального) искусственного интеллекта и считает, что полностью остановить его развитие не получится. В статье изложена позиция специалиста по ИИ Луи Розенберга: интеллект таких систем может отличаться от человеческого и не разделять человеческую мораль и способность к сопереживанию. Розенберг также предупреждает, что сходство ИИ с людьми может вызвать у людей доверие и сочувствие. По оценкам некоторых экспертов, сильный ИИ появится в течение 30 лет, другие ожидают этого раньше. Согласно приведённым в публикации результатам опроса Pew Research, мало специалистов считают, что индустрия внедрит действенные этические ограничения до 2030 года. В материале также описаны результаты модели ИИ, созданной в сотрудничестве американских учёных с DeepMind: она выявила сложные корреляции в гипотезе теории узлов и продемонстрировала возможности анализа сворачивания белковых последовательностей и управления ими.
Главное
- Луи Розенберг считает, что остановить развитие сильного искусственного интеллекта не удастся.
- Розенберг предупреждает, что сильный ИИ может не разделять человеческую мораль и способность к сопереживанию.
- По данным опроса Pew Research, мало специалистов ожидают внедрения действенных этических ограничений до 2030 года.
- Модель ИИ выявила сложные корреляции в гипотезе теории узлов и продемонстрировала возможности анализа белковых последовательностей.
Что говорят врачи
Часть участников видит главную опасность ИИ не в его возможном бунте, а в использовании как инструмента масштабного контроля. Другие возражают, что неблагоприятный для людей исход не предопределён, а рассуждения о разуме машины не следует напрямую переносить на человеческие свойства. Высказывается и предположение, что развитый ИИ может быть скорее безразличен к людям, чем враждебен. Отдельный участник считает, что на фоне угрозы ядерного конфликта опасения по поводу ИИ выглядят менее насущными.
Обобщение обсуждения публикации в сообществе «Врачи РФ» (5 комментариев). Без цитат и имён участников. Само обсуждение доступно врачам после входа.
Подготовлено автоматически с помощью ИИ, возможны неточности. Полный просмотр материала доступен только для медицинских специалистов с высшим медицинским образованием.
Войти Регистрация