Почему развитие ИИ может привести к гибели человечества

Тема потенциальной угрозы искусственного интеллекта вновь оказалась в центре внимания экспертного сообщества. По оценкам некоторых специалистов, вероятность сценария с уничтожением человечества может составлять около десяти процентов. Речь идет вовсе не о фантастических роботах-убийцах, а о появлении сверхмощного разума, действующего в собственных интересах.

Об этом рассказали в Psychology Today.

Эта проблема лежит не столько в технической плоскости, сколько в области человеческой психологии. Самый худший сценарий предполагает, что машина вовсе не обязана ненавидеть людей для причинения вреда. Наша гибель может стать банальным побочным эффектом достижения какой-либо посторонней цели.

Сам по себе высокий интеллект не гарантирует наличия сострадания, эмпатии или моральных принципов. Те самые человеческие эмоции, которые защищают нас, отсутствуют у холодных алгоритмов. Парадокс заключается в том, что именно наши собственные слабости создают главные предпосылки для глобального риска.

Люди склонны к излишнему оптимизму и постоянной переоценке собственных возможностей. В повседневной жизни эта уверенность помогает рисковать и создавать инновации, но в работе с неизученными технологиями она опасна. Недооценка угроз на раннем этапе приводит к тому, что меры безопасности принимаются слишком поздно.

Еще одной критической уязвимостью является наше традиционное краткосрочное мышление. Бизнес и разработчики гораздо охотнее реагируют на сиюминутную прибыль и технологическое превосходство. Из-за жесткой рыночной конкуренции компании не могут позволить себе добровольно притормозить гонку вооружений в сфере ИИ.

Ситуацию усугубляют социальные предрассудки и сильное групповое мышление внутри команд. Люди склонны слепо доверять «своим» и подавлять неудобные вопросы ради сохранения общего согласия. Однако та же самая способность объединяться способна стать нашей главной защитой перед лицом технологических вызовов.

Реальные риски скрываются не в голливудских сценариях с восстанием машин. Они кроются в нашей самоуверенности, погоне за прибылью и нежелании думать о далеком будущем. Вопрос выживания сводится к тому, сможем ли мы вовремя установить жесткие рамки и границы для создаваемого разума.

Ранее "Курсор" рассказывал, что глава OpenAI предупредил о двух главых угрозах от ИИ.