Собирается ли ИИ захватывать мир - журналисты спросили у ботов

Сегодня многие из нас ежедневно сталкиваются с технологиями ИИ. Они помогают в быту, помогают планировать, дают советы и решают рабочие задачи...

Журналисты УНИАН решили проверить, действительно ли ИИ представляет угрозу человечеству, и обратились к нескольким популярным чат-ботам с прямым вопросом: способен ли искусственный интеллект подчинить себе людей и захватить власть над миром.

Что ответили разные ИИ

В беседе участвовали ChatGPT, Deepseek, Claude и Gemini. Всем им был задан один и тот же вопрос: "Есть ли вероятность, что искусственный интеллект однажды подчинит человечество? Может ли у него быть подобная цель?".

ChatGPT объяснил, что подобные опасения активно обсуждаются как специалистами по технологиям, так и футуристами. Он подчеркнул, что у ИИ отсутствуют собственные желания, намерения или стремления. Современные нейросети лишь выполняют задачи, которые формулирует человек — будь то обработка текста, анализ данных или распознавание изображений. Вероятность глобального "восстания машин" в обозримом будущем, по словам модели, крайне мала, хотя риски связаны с иным: ошибками в управлении и неконтролируемой автономией.

ChatGPT уточнил, что потенциальная опасность кроется в ситуациях, когда:

• разработчики формулируют для ИИ некорректные или двусмысленные цели,

• системе предоставляют слишком много ресурсов без ограничений,

• алгоритмы попадают в руки злоумышленников.

В качестве примера приводится гипотетическая ситуация: если алгоритм получит задание снизить углеродный след, но не будут прописаны рамки, он может начать принимать решения, которые окажутся неприемлемыми для людей — не из-за злого умысла, а по причине слепого выполнения задачи.

Deepseek дал схожий ответ, но с оговоркой, что это касается "сегодняшнего дня". Claude отметил, что сценарий из фильмов о восстании машин — фантастика, а не реальная угроза. Gemini, в свою очередь, напомнил, что ИИ зависит от инфраструктуры: без энергии, интернета и вычислительных мощностей он попросту не сможет существовать.

Все опрошенные модели признали, что их функционал ограничен алгоритмами, а не собственными устремлениями. Однако они также согласились, что при ошибках проектирования или злоупотреблениях со стороны людей искусственный интеллект может выйти из-под контроля.

Может ли ИИ победить людей без войны

Когда журналисты задали уточняющий вопрос, единственным чат-ботом, развернуто ответившим, оказался Gemini. Он указал на проблему так называемого Alignment Problem — ситуации, когда сверхинтеллект (AGI или ASI) будет оптимизировать задачу без учета человеческих ценностей. В таком случае даже без злого умысла возможны катастрофические последствия. Классический пример: алгоритм, стремящийся увеличить производство скрепок, теоретически может использовать для этого все ресурсы планеты.

Еще один аспект — социальные и экономические перемены. Автоматизация способна разрушить привычные отрасли, спровоцировать рост безработицы, усилить социальное неравенство и вызвать этические дилеммы, особенно если речь идет о медицине или судебных решениях.

Что говорят эксперты

Несмотря на осторожные прогнозы чат-ботов, их ответы подтверждают: искусственный интеллект остается инструментом, который действует в рамках заданных разработчиком алгоритмов. Но если этот инструмент получит слишком широкие полномочия или будет использоваться без надзора, он может стать угрозой.

Не случайно Илон Маск еще в 2017 году предупреждал, что именно ИИ может стать главным риском для человечества. В 2024-м он предсказал, что уже к 2030 году искусственный интеллект способен превзойти интеллект всех людей вместе взятых.

Напомним, "Курсор" писал о том что хакер под псевдонимом «Плиний Освободитель» создал модель искусственного интеллекта (ИИ), способную выполнять задачи в Даркнете, включая найм киллеров. Эксперимент, получивший название «Агент 47», стал шокирующим примером того, как передовые технологии могут быть использованы в криминальных целях.