Как ИИ может незаметно получить власть над людьми - ответ эксперта

Историк и футуролог Юваль Ной Харари заявил, что главная угроза ИИ заключается не в сценарии с восстанием роботов, а в постепенном проникновении алгоритмов в системы управления государствами, банками, судами и крупными организациями.

Во время лекции в Оксфордском университете Харари отметил, что популярная культура создала ложное представление об опасностях ИИ. По его словам, сценарий, показанный в фильмах о «Терминаторе», маловероятен, поскольку искусственному интеллекту не потребуется силой захватывать власть.

«ИИ не нужна революция, чтобы захватить мир», — подчеркнул футуролог.

По мнению Харари, естественной средой для искусственного интеллекта являются бюрократические системы. Он пояснил, что именно через них осуществляется обмен информацией и принимаются решения, от которых зависит функционирование современного общества.

Эксперт считает, что по мере развития технологий люди будут все чаще полагаться не на мнение других людей, а на рекомендации алгоритмов. Следующим этапом может стать ситуация, при которой системы искусственного интеллекта начнут самостоятельно обмениваться данными и принимать решения между собой без непосредственного участия человека.

Харари предупредил, что в результате могут появиться сложные сети взаимодействующих алгоритмов, принципы работы которых перестанут понимать даже их создатели. В качестве примера он сравнил такую ситуацию с положением домашних животных, существующих внутри человеческой экономики, но не осознающих, как она устроена.

На фоне подобных опасений разработчик ИИ-модели Claude — компания Anthropic — ранее предложила крупнейшим мировым лабораториям рассмотреть возможность международной координации развития искусственного интеллекта. По замыслу компании, такое соглашение могло бы стать аналогом международных договоров в сфере контроля над ядерными технологиями и позволило бы избежать бесконтрольной гонки в области ИИ.

Ранее "Курсор" писал, что ИИ может в кратчайшие сроки уничтожить человечество. Такие выводы сделали ученые в результате эксперимента.