Может ли ИИ уничтожить человечество на самом деле - правда и мифы

Вопрос о том, насколько искусственный интеллект способен угрожать человечеству, снова оказался в центре общественного внимания. В последнее время звучат даже оценки, согласно которым вероятность наиболее катастрофического сценария, при котором развитие ИИ может привести к исчезновению людей, достигает примерно 10%. При этом речь идет вовсе не о фантастической армии роботов, вооруженных лазерами и решивших уничтожить человечество.

 Об этом сообщило издание Psychology Today.

Потенциальная опасность может выглядеть гораздо сложнее. Если системы искусственного интеллекта в будущем достигнут уровня сверхразума, они способны превзойти человека по интеллектуальным возможностям и начать принимать решения, руководствуясь собственными целями. И если эти цели окажутся несовместимы с интересами людей, последствия могут быть крайне серьезными.

Об этом пишет Psychology Today.

На первый взгляд, разговор об угрозах ИИ относится исключительно к сфере технологий. Однако специалисты по поведенческой науке обращают внимание на другую сторону проблемы. Во многом будущее искусственного интеллекта зависит от особенностей самого человека — его стремления к развитию, конкуренции, прибыли и способности недооценивать долгосрочные риски.

Опасность может возникнуть не из-за ненависти ИИ к людям

Даже самый неблагоприятный сценарий не обязательно предполагает, что искусственный интеллект однажды решит уничтожить человечество из-за неприязни к людям.

Гораздо более реалистичной может оказаться ситуация, в которой человеческая жизнь просто окажется препятствием на пути к выполнению определенной задачи. Система будет стремиться максимально эффективно достичь поставленной цели, а возможный ущерб для людей станет лишь нежелательным побочным результатом.

Подобное уже происходило в истории человечества. Развитие промышленности, технологий и экономики позволило людям значительно улучшить качество жизни, но одновременно привело к загрязнению окружающей среды, истощению природных ресурсов и другим масштабным последствиям.

Существует и более тревожная гипотеза: сверхразумная система действительно может начать действовать намеренно вопреки интересам человека. Сам по себе высокий интеллект не означает наличия совести, эмпатии, сострадания или моральных ограничений.

Именно эмоции во многом заставляют людей учитывать интересы окружающих, испытывать чувство вины и проявлять альтруизм. Но возникает парадокс: человеческая способность создавать все более совершенные технологии одновременно дает нам возможность разработать систему, которая однажды может оказаться значительно умнее своего создателя.

Главная слабость человека — уверенность в собственном контроле

Люди нередко переоценивают свои способности и склонны верить, что смогут справиться с возникающими проблемами. В обычной жизни такая уверенность бывает полезной: она позволяет принимать решения, идти на риск, экспериментировать и двигать прогресс вперед.

Однако при работе с технологией, возможности которой человечество пока не способно полностью предсказать, чрезмерная самоуверенность становится потенциально опасной.

Если на первых этапах развития ИИ серьезные угрозы будут восприниматься как маловероятные или далекие, разработчики и государства могут отложить введение необходимых ограничений. А когда реальные последствия станут очевидными, времени на исправление ситуации может уже не хватить.

Есть у человека и другая проблема — склонность концентрироваться на ближайшей выгоде. Нам проще оценить то, что дает результат прямо сейчас: рост производительности, финансовую прибыль, экономическое преимущество или технологическое лидерство.

Долгосрочные последствия, которые могут проявиться через десятилетия, воспринимаются гораздо менее конкретно. Именно поэтому компаниям бывает сложно самостоятельно замедлить разработку мощных систем искусственного интеллекта.

Представим, что одна организация решает остановиться ради дополнительной безопасности, тогда как ее конкуренты продолжают развивать технологии. В таком случае первая рискует потерять рынок и преимущество. В итоге каждая сторона действует рационально с точки зрения собственных интересов, однако совокупность таких решений может привести к увеличению общего риска.

Конкуренция и групповое мышление тоже способны мешать

На решения людей влияют и социальные особенности. Мы склонны больше доверять тем, кого считаем частью своей группы, противопоставлять себя конкурентам и соглашаться с мнением большинства.

В результате может возникнуть так называемое групповое мышление. Если коллектив уверен, что выбранный путь является правильным, неудобные вопросы, критика и предупреждения об опасности могут восприниматься как помеха, а не как необходимая мера предосторожности.

Для развития безопасного ИИ это особенно важно. Чем мощнее становятся технологии, тем опаснее ситуация, когда стремление первым добиться результата оказывается сильнее желания тщательно проверить возможные последствия.

Но именно человеческая способность объединяться способна стать и главным инструментом защиты.

Конкуренцию, научную изобретательность и стремление к технологическому прогрессу можно использовать не только для создания более мощных систем. Те же ресурсы могут быть направлены на разработку механизмов контроля, международных правил и способов своевременного выявления опасного поведения ИИ.

Будущее зависит не только от искусственного интеллекта

Самый пугающий сценарий развития искусственного интеллекта может оказаться совсем не похожим на фантастические фильмы, где роботы преследуют людей и ведут с ними войну.

Риск может быть гораздо менее заметным. Он способен возникнуть из сочетания человеческой самоуверенности, стремления получить максимальную прибыль, жесткой технологической конкуренции, ориентации на краткосрочный результат и нежелания всерьез воспринимать угрозы, которые пока кажутся гипотетическими.

Поэтому вопрос о том, способен ли ИИ однажды уничтожить человечество, возможно, стоит сформулировать иначе. Важно не только то, насколько умными станут будущие системы, но и то, сможет ли человечество вовремя определить для них четкие границы, создать эффективные механизмы контроля и не позволить гонке за технологическим превосходством опередить требования безопасности.

Ранее "Курсор" сообщал, что пользователей Chat GPT предупредили о новой мошеннической схеме.