Хокинг предупреждал об ИИ перед смертью – чего он боялся

Стивен Хокинг еще при жизни неоднократно говорил о потенциальных рисках стремительного развития искусственного интеллекта. Ученый считал, что однажды ИИ может получить способность самостоятельно совершенствоваться и развиваться гораздо быстрее, чем человек.

Об этом пишет Wion.

По мнению Хокинга, именно скорость такого развития могла стать одной из главных угроз. Если искусственный интеллект научится перепроектировать собственные системы и улучшать их, человечество, ограниченное темпами биологической эволюции, может оказаться неспособным конкурировать с ним.

При этом ученый подчеркивал, что опасность заключается не обязательно в появлении злонамеренных машин. Гораздо серьезнее, по его словам, может оказаться чрезвычайно мощный и компетентный ИИ, цели которого не совпадают с интересами людей.

Хокинг призывал заранее позаботиться о том, чтобы задачи и принципы работы искусственного интеллекта соответствовали безопасности и выживанию человечества. Он предупреждал: если сверхразумная система получит цели, несовместимые с человеческими интересами, последствия могут оказаться катастрофическими.

Во время выступления в Кембриджском университете ученый отмечал, что создание полноценного искусственного интеллекта способно стать крупнейшим событием в истории человечества. Однако одновременно оно может оказаться и последним крупным событием, если люди не научатся контролировать связанные с ИИ риски.

В последние годы жизни Хокинг также обращал внимание на угрозу использования искусственного интеллекта в военной сфере. Он опасался, что автономные системы вооружений без жесткого регулирования могут превратиться в инструмент масштабного контроля и угнетения.

В своей книге «Краткие ответы на большие вопросы» Хокинг фактически оставил человечеству призыв ответственно подходить к развитию новых технологий. Он считал, что ученые и политики должны сделать все возможное, чтобы искусственный интеллект оставался инструментом, работающим в интересах людей.

Ранее "Курсор" писал, что Трамп решил переименовать.

Дональд Трамп предложил отказаться от термина «искусственный интеллект», назвав его «суперинтеллектом» (SI).