Искусственный интеллект может получить контроль не силой, а через бюрократию, банки, суды и другие ключевые институты.
Pixabay
Историк и футуролог Юваль Ной Харари заявил, что главная угроза ИИ заключается не в сценарии с восстанием роботов, а в постепенном проникновении алгоритмов в системы управления государствами, банками, судами и крупными организациями.
Во время лекции в Оксфордском университете Харари отметил, что популярная культура создала ложное представление об опасностях ИИ. По его словам, сценарий, показанный в фильмах о «Терминаторе», маловероятен, поскольку искусственному интеллекту не потребуется силой захватывать власть.
«ИИ не нужна революция, чтобы захватить мир», — подчеркнул футуролог.
По мнению Харари, естественной средой для искусственного интеллекта являются бюрократические системы. Он пояснил, что именно через них осуществляется обмен информацией и принимаются решения, от которых зависит функционирование современного общества.
Эксперт считает, что по мере развития технологий люди будут все чаще полагаться не на мнение других людей, а на рекомендации алгоритмов. Следующим этапом может стать ситуация, при которой системы искусственного интеллекта начнут самостоятельно обмениваться данными и принимать решения между собой без непосредственного участия человека.
Харари предупредил, что в результате могут появиться сложные сети взаимодействующих алгоритмов, принципы работы которых перестанут понимать даже их создатели. В качестве примера он сравнил такую ситуацию с положением домашних животных, существующих внутри человеческой экономики, но не осознающих, как она устроена.
На фоне подобных опасений разработчик ИИ-модели Claude — компания Anthropic — ранее предложила крупнейшим мировым лабораториям рассмотреть возможность международной координации развития искусственного интеллекта. По замыслу компании, такое соглашение могло бы стать аналогом международных договоров в сфере контроля над ядерными технологиями и позволило бы избежать бесконтрольной гонки в области ИИ.
Ранее "Курсор" писал, что ИИ может в кратчайшие сроки уничтожить человечество. Такие выводы сделали ученые в результате эксперимента.
Ставка на бывшего джихадиста Аль-Джулани в попытках уничтожить «Хизбаллу» — это опасная стратегическая иллюзия.
Перенос социальной жизни в цифровую среду привел к тому, что поколение Z утратило ряд базовых…
Трамп заявил о “хороших отношениях” с премьером Израиля, но подчеркнул, что именно Вашингтон задает тон…
Военный эксперт утверждает, что систематические атаки на Киев продиктованы не только стремлением к террору, но…
Финансовый эксперт рассказал, какие привычные ошибки чаще всего приводят к потере денег во время отдыха…
Хайм Саломон помог профинансировать борьбу США за независимость, но умер в нищете, так и не…