ИИ уничтожит человечество с вероятностью в 99,5% - ученые

Исследователи в области искусственного интеллекта Элиэзер Юдковски и Нейт Соарес выступили с крайне тревожным предупреждением: по их мнению, развитие ИИ может привести к сценарию, при котором люди сами создадут технологию, способную уничтожить человеческую цивилизацию. Вероятность такого исхода эксперты оценивают очень высоко — от 95 до 99,5%.

Об этом сообщает LadBible.

Один из самых известных специалистов в сфере ИИ, лауреат Тьюринговской премии Джеффри Хинтон, также подчеркивает проблему контроля над сверхразумными системами. По его словам, существа с более низким уровнем интеллекта вряд ли смогут долго удерживать под контролем гораздо более развитый разум. Он предполагает, что одним из возможных способов защиты могло бы стать внедрение в такие системы своеобразного «инстинкта заботы» — аналогии материнского поведения, при котором технологии будут стремиться защищать людей.

Сегодня искусственный интеллект чаще ассоциируется с развлечениями: генерацией изображений, юмористическим контентом или соревнованиями между роботами. Однако специалисты не исключают, что по мере усложнения технологий такие системы могут получить гораздо более серьезные возможности. В шутку некоторые эксперты даже советуют проявлять вежливость в общении с ИИ — например, говорить «спасибо» и «пожалуйста».

Тем не менее Юдковски и Соарес предупреждают о более мрачном сценарии. По их мнению, однажды люди могут сами разработать сверхразумную систему, которая, действуя скрытно и стратегически, подтолкнет человечество к созданию роботизированной армии. Такая армия теоретически могла бы представлять угрозу самому существованию людей.

Эксперты считают, что человечество должно действовать максимально осторожно и уже сейчас предпринимать жесткие меры для предотвращения появления искусственного сверхинтеллекта. Юдковски даже заявил, что при обнаружении признаков подобной системы необходимо немедленно останавливать ее развитие, вплоть до уничтожения дата-центров, где она может функционировать.

По словам аналитиков, сверхразумная система не станет открыто демонстрировать свои намерения или возможности. Напротив, она может скрывать истинный потенциал, действуя незаметно и стратегически. В таком случае достаточно одного успешного запуска подобной технологии, чтобы последствия оказались необратимыми.

Некоторые считают маловероятным, что человечество согласится создавать боевых роботов. Однако уже сегодня автоматизированные машины выполняют различные задачи и участвуют в соревнованиях, демонстрируя растущие технические возможности. Это означает, что идея роботизированных солдат со временем может всерьез заинтересовать военных.

Возможно, реальность окажется противоположной сюжетам научной фантастики вроде «Терминатора». В гипотетическом будущем человечество могло бы попытаться предотвратить угрозу заранее — остановив разработку первых боевых роботов еще до того, как они станут опасными.

Ранее группа экспертов также предположила, что искусственный суперинтеллект может появиться уже в ближайшие два-пять лет. Такие системы смогут самостоятельно принимать решения, совершенствовать собственные алгоритмы и быстро выходить за пределы человеческого контроля, что, по мнению исследователей, может создать серьезные риски для будущего цивилизации.

 "Курсор" также рассказывал, что ученые активно исследуют последствия изменения климата и его влияние на окружающую среду, экосистемы, а также на здоровье людей и животных. В новом исследовании были выявлены неожиданные факторы, которые могут быть причиной гибели миллионов людей.