Искусственный интеллект может получить контроль не силой, а через бюрократию, банки, суды и другие ключевые институты.
Pixabay
Историк и футуролог Юваль Ной Харари заявил, что главная угроза ИИ заключается не в сценарии с восстанием роботов, а в постепенном проникновении алгоритмов в системы управления государствами, банками, судами и крупными организациями.
Во время лекции в Оксфордском университете Харари отметил, что популярная культура создала ложное представление об опасностях ИИ. По его словам, сценарий, показанный в фильмах о «Терминаторе», маловероятен, поскольку искусственному интеллекту не потребуется силой захватывать власть.
«ИИ не нужна революция, чтобы захватить мир», — подчеркнул футуролог.
По мнению Харари, естественной средой для искусственного интеллекта являются бюрократические системы. Он пояснил, что именно через них осуществляется обмен информацией и принимаются решения, от которых зависит функционирование современного общества.
Эксперт считает, что по мере развития технологий люди будут все чаще полагаться не на мнение других людей, а на рекомендации алгоритмов. Следующим этапом может стать ситуация, при которой системы искусственного интеллекта начнут самостоятельно обмениваться данными и принимать решения между собой без непосредственного участия человека.
Харари предупредил, что в результате могут появиться сложные сети взаимодействующих алгоритмов, принципы работы которых перестанут понимать даже их создатели. В качестве примера он сравнил такую ситуацию с положением домашних животных, существующих внутри человеческой экономики, но не осознающих, как она устроена.
На фоне подобных опасений разработчик ИИ-модели Claude — компания Anthropic — ранее предложила крупнейшим мировым лабораториям рассмотреть возможность международной координации развития искусственного интеллекта. По замыслу компании, такое соглашение могло бы стать аналогом международных договоров в сфере контроля над ядерными технологиями и позволило бы избежать бесконтрольной гонки в области ИИ.
Ранее "Курсор" писал, что ИИ может в кратчайшие сроки уничтожить человечество. Такие выводы сделали ученые в результате эксперимента.
Специалисты объяснили, от какой пищи стоит отказаться, чтобы уменьшить риск повышения давления.
Пилот, напавший на командира рейса Flydubai, был пропущен на рейс в Израиль с большим количеством…
Премьер-министр Израиля утверждает, что переданная британской стороне разведданная помогла предотвратить возможную атаку на авиабазу Фэйрфорд.
По данным израильской разведки, высокопоставленный представитель ХАМАС находился в атакованной квартире. Шансов вижить у него…
Сода, перекись, уксус и средство для посуды помогут удалить старый жир и загрязнения, но способ…
Дональд Трамп чествовал Янива Хиюна, который героически спас пассажиров во время попытки теракта на рейсе…