Стивен Хокинг предупреждал, что сверхразумный ИИ может превзойти человека и стать угрозой.
depositphotos.com
Стивен Хокинг еще при жизни неоднократно говорил о потенциальных рисках стремительного развития искусственного интеллекта. Ученый считал, что однажды ИИ может получить способность самостоятельно совершенствоваться и развиваться гораздо быстрее, чем человек.
Об этом пишет Wion.
По мнению Хокинга, именно скорость такого развития могла стать одной из главных угроз. Если искусственный интеллект научится перепроектировать собственные системы и улучшать их, человечество, ограниченное темпами биологической эволюции, может оказаться неспособным конкурировать с ним.
При этом ученый подчеркивал, что опасность заключается не обязательно в появлении злонамеренных машин. Гораздо серьезнее, по его словам, может оказаться чрезвычайно мощный и компетентный ИИ, цели которого не совпадают с интересами людей.
Хокинг призывал заранее позаботиться о том, чтобы задачи и принципы работы искусственного интеллекта соответствовали безопасности и выживанию человечества. Он предупреждал: если сверхразумная система получит цели, несовместимые с человеческими интересами, последствия могут оказаться катастрофическими.
Во время выступления в Кембриджском университете ученый отмечал, что создание полноценного искусственного интеллекта способно стать крупнейшим событием в истории человечества. Однако одновременно оно может оказаться и последним крупным событием, если люди не научатся контролировать связанные с ИИ риски.
В последние годы жизни Хокинг также обращал внимание на угрозу использования искусственного интеллекта в военной сфере. Он опасался, что автономные системы вооружений без жесткого регулирования могут превратиться в инструмент масштабного контроля и угнетения.
В своей книге «Краткие ответы на большие вопросы» Хокинг фактически оставил человечеству призыв ответственно подходить к развитию новых технологий. Он считал, что ученые и политики должны сделать все возможное, чтобы искусственный интеллект оставался инструментом, работающим в интересах людей.
Ранее "Курсор" писал, что Трамп решил переименовать.
Дональд Трамп предложил отказаться от термина «искусственный интеллект», назвав его «суперинтеллектом» (SI).
Ежедневный суп быстро насыщает и восполняет жидкость, но людям с болезнями желудка, сердца и с…
Партии Биньямина Нетаниягу и Гади Айзенкота начали новый раунд переговорного процесса, но есть нюанс.
Беркович раскритиковал министра Амихая Шикли за нападки на мать погибшего военнослужащего и обвинил сторонников Нетаниягу…
Ученые объяснили, почему попытки подавить пугающие мысли иногда только усугубляют проблему
Для трех знаков Зодиака начнется благоприятный период, связанный с карьерными достижениями и улучшением финансового положения.
На острове Харг собрали нефтяные суда, а в Тегеране уже обсуждают возможные последствия американского вмешательства.