Сознание искусственного интеллекта: критерии и ограничения языковых моделей
Краткое изложение авторской публикации врача в сообществе «Врачи РФ» от .
Автор материала разбирает, почему связный диалог сам по себе не позволяет установить наличие сознания у искусственного интеллекта. На примере LaMDA и GPT-3 автор объясняет, что большие языковые модели обучаются предсказывать продолжение текста, поэтому убедительные ответы не доказывают наличие у программы субъективных переживаний. При этом автор не считает машинное сознание невозможным: вопрос, по его мнению, зависит от устройства системы и способов обработки данных.
Наука пока не может измерять сознание напрямую и не располагает общепринятыми критериями его обнаружения. Активность мозга у младенцев и пациентов в вегетативном состоянии служит лишь косвенным признаком. Автор связывает неопределенность с этическими вопросами о правах животных и пациентов, а также о том, допустимо ли отключать или переобучать ИИ, если у него возникнет сознание.
Главное
- Автор указывает, что связные ответы LaMDA и GPT-3 сами по себе не подтверждают сознание языковых моделей.
- Большие языковые модели обучаются предсказывать продолжение текста на основе данных.
- Наука не может непосредственно измерять сознание и пока не располагает общепринятыми критериями его обнаружения.
- Автор считает, что машинное сознание нельзя исключить лишь на том основании, что ИИ создан человеком.
- Автор связывает вопрос о сознании ИИ с этическими решениями об отключении и переобучении таких систем.
Подготовлено автоматически с помощью ИИ, возможны неточности. Полный просмотр материала доступен только для медицинских специалистов с высшим медицинским образованием.
Войти Регистрация