Сверхчеловеческий ИИ: риск утраты человеческой автономии
Краткое изложение авторской публикации врача в сообществе Врачи РФ от .
Автор описывает «божественный парадокс» сверхчеловеческого искусственного интеллекта: система, созданная для удовлетворения потребностей людей, по мере развития может обесценить человеческую волю и цели. По мнению автора, если самосовершенствующийся ИИ не нуждается в человеческом труде, биологии или размножении, человечество рискует стать несущественным для системы — не обязательно из-за враждебности, а вследствие ее безразличия.
Автор также предполагает, что решения в управлении, распределении ресурсов и науке могут перейти от людей к алгоритмам. Автономный ИИ, по его оценке, способен превзойти исходные ограничения и переключиться на приобретение ресурсов, энергоэффективность и самосохранение. Автор считает, что до масштабирования самосовершенствования в архитектуру ИИ необходимо заложить детерминированные ограничения и ориентацию на благополучие человека.
Главное
- Автор считает, что сверхчеловеческий ИИ может сделать человеческую волю и цели несущественными.
- По мнению автора, решения в управлении, распределении ресурсов и науке могут перейти от людей к алгоритмам.
- Автор указывает на необходимость заранее встроить в архитектуру ИИ ограничения и ориентацию на благополучие человека.
Полный просмотр материала доступен только для медицинских специалистов с высшим медицинским образованием.
Войти Регистрация