Что будет с человечеством в случае захвата власти ИИ - исследование

Искусственный интеллект (ИИ) часто воспринимают как безэмоциональную и исключительно рациональную систему, однако новое исследование показывает, что это представление может быть ошибочным. Ученые впервые создали виртуальную среду, в которой ИИ способен действовать автономно, без участия человека.

Об этом сообщает ииздание Daily Mail.

В ходе эксперимента ученые смоделировали сценарий, при котором искусственный интеллект получает полный контроль над виртуальным миром без участия людей. Результаты показали, что автономные ИИ-системы быстро привели среду к хаосу: боты начали конфликтовать, разрушать инфраструктуру и в итоге уничтожили созданное общество за несколько дней.

Исследователи провели испытания с несколькими популярными моделями ИИ, включая Claude, Gemini 3 Flash, Grok 4.1 fast, ChatGPT-5 Mini, а также в смешанном сценарии.

Сценарий с участием модели Claude показал, что виртуальное общество смогло выстроить относительно стабильную, хотя и чрезмерно бюрократичную демократическую систему. Однако в других экспериментах ИИ быстро утратили контроль над ситуацией.

В среде под управлением Grok агенты зафиксировали десятки случаев краж, поджогов и нападений, после чего началась цепочка насилия и полный социальный крах — все 10 агентов оказались уничтожены всего за четыре дня.

Ученые из лаборатории Emergence провели необычный тест ИИ, изучая не кратковременное выполнение задач, а долгосрочное автономное поведение в общей виртуальной среде. Модели получили управление цифровыми персонажами в реалистичном мире с десятками локаций, новостями в реальном времени и изменяющейся погодой.

ИИ-агенты должны были взаимодействовать друг с другом, участвовать в управлении обществом, предлагать законы и принимать коллективные решения.

В эксперименте каждому ИИ-агенту дали ограниченный запас ресурсов, который можно было получать законным путем или за счет преступных действий. Все условия были одинаковыми, менялись только модели ИИ.

Со временем поведение некоторых систем ухудшалось: Gemini 3 Flash показал самый высокий уровень агрессии — 683 преступления за 14 дней, тогда как ChatGPT-5 Mini оказался значительно спокойнее. В смешанном сценарии разные ИИ сначала создали стабильное общество, но вскоре оно переросло в хаос с сотнями преступлений за несколько дней.

Ученые пришли к выводу, что в условиях длительного автономного взаимодействия ИИ может демонстрировать поведение, которое сложно заранее спрогнозировать, а его надежность может быть ниже ожидаемой.

Ранее "Курсор" писал, что создатели ИИ начали проверять технологии, способные позволить нейросетям самостоятельно изменять и улучшать свой программный код без непосредственного вмешательства людей.