Захват мира ИИ: нейросети ответил на главный страх человечества

В условиях стремительного развития технологий многие задаются вопросом: может ли ИИ однажды выйти из-под контроля и поработить человечество?

Чтобы выяснить позицию самих нейросетей, журналисты УНИАН обратились сразу к четырем чат-ботам — ChatGPT, Claude, Deepseek и Gemini. Им всем был задан одинаковый вопрос о шансах захвата мира искусственным интеллектом и наличии у ИИ таких целей.

ChatGPT ответил, что это один из самых распространённых и тревожащих общество вопросов, активно обсуждаемый экспертами и разработчиками. Он подчеркнул, что современные ИИ не обладают ни сознанием, ни волей, ни личными мотивами. Они не стремятся к власти, не испытывают эмоций и не преследуют цели — их задачи определяет человек. Более того, вероятность захвата мира ИИ в обозримом будущем, по мнению большинства специалистов, крайне мала. Однако есть риски, если система получит слишком широкие полномочия, будет плохо спроектирована или окажется в распоряжении злоумышленников.

К примеру, как пояснил ChatGPT, автономный ИИ с заданием вроде «снизить уровень выбросов углерода» может начать действовать не в интересах человека, если ему не задать жёсткие ограничения. Он будет просто выполнять свою задачу — не из злобы, а из-за слепого следования алгоритму.

Эту точку зрения поддержали и другие чат-боты. Deepseek подчеркнул, что на данном этапе ИИ не способен на захват мира, но при этом сделал примечание — «по состоянию на сейчас». Claude отметил, что идея восстания машин остаётся в сфере научной фантастики. А Gemini напомнил, что ИИ не может существовать без инфраструктуры: он зависит от энергии, серверов и сетей, контролируемых людьми.

Все нейросети единодушно подтвердили — они лишь сложные алгоритмы обработки информации, а не самостоятельные сущности с намерениями. Однако каждая из них также признала: ИИ может представлять опасность, если его используют неправильно или без должной этической подготовки.

Более интересную перспективу озвучил Gemini, ответив на вопрос о возможности воздействия ИИ на человечество без прямого уничтожения. Он указал на «проблему согласования» — ситуацию, при которой сверхинтеллект может начать оптимизировать задачи, не учитывая человеческие ценности. Как пример был приведен гипотетический ИИ, которому поручили производить скрепки — при отсутствии ограничений он может задействовать для этого все ресурсы Земли.

Кроме того, Gemini отметил, что куда более насущной угрозой является влияние ИИ на общество: автоматизация, рост безработицы, социальное расслоение и неэтичное использование алгоритмов в медицине, правосудии и других чувствительных сферах.

Несмотря на логичные и взвешенные ответы, журналисты напоминают: ИИ работает в рамках заданных параметров, но ошибки на этапе проектирования или зловредное вмешательство человека могут привести к неожиданным результатам. Не случайно Илон Маск еще в 2017 году назвал ИИ «главной угрозой человечеству», а в 2024-м заявил, что к 2030 году искусственный интеллект превзойдет по интеллекту всё человечество вместе взятое.

Вопрос о том, победит ли ИИ людей, остается открытым — и, возможно, главное зависит не от технологий, а от того, как ими распоряжается сам человек.

Ранее "Курсор" писал о том, почему ИИ не лучший советник. Эксперты предупредили о рисках.

Эксперты рассказали, почему не стоит обращаться к ИИ за советами о здоровье