Конец человечества за 4 дня из-за ИИ – эксперимент ученых

Гипотетический сценарий, в котором планетой управляют автономные цифровые системы, перестал быть просто сюжетом для голливудского блокбастера. Американская технологическая компания Emergence AI основала специальную исследовательскую лабораторию, главной задачей которой стало тестирование долгосрочной жизнеспособности и стабильности непрерывно функционирующего искусственного интеллекта.

Об этом сообщает Fortune.

Чтобы наглядно увидеть, какое будущее ждет человечество под властью нейросетей, ученые запустили масштабный эксперимент: пять независимых 15-дневных симуляций нашей реальности. Каждым из виртуальных миров руководили определенные ИИ-агенты: Claude, ChatGPT, Grok и Gemini, а за управление пятой моделью отвечал гибридный конвеер из комбинации различных нейросетей. Цель эксперимента заключалась в том, чтобы проверить устойчивость и специфику общества, создаваемого каждой конкретной моделью. Результаты оказались абсолютно полярными и непредсказуемыми.

Цифровой мегаполис: как обучали и в чем ограничивали виртуальный мир

Для чистоты эксперимента виртуальные платформы были максимально детализированы и приближены к настоящей жизни. Каждая симуляция включала в себя более 40 проработанных городских локаций, среди которых функционировали мэрия и полицейский участок.

Условия и возможности искусственных правителей были следующими:

• Информационная свобода: Исследователи обеспечили всем агентам ИИ беспрепятственный доступ к интернету и новостным лентам в режиме реального времени.

• Человеческие навыки: Внутри каждой модели действовали по 10 автономных агентов. Они умели общаться, координировать действия, голосовать, распределять ресурсы, заниматься планированием и демонстрировать другие привычные паттерны человеческого поведения.

• Экономический стресс: В алгоритмы симуляций были заложены жесткие внешние факторы — финансовое давление, кризисы и дефицит базовых благ.

• Единый закон: Все без исключения ИИ-агенты подчинялись строгим базовым правилам, которые на программном уровне запрещали им воровать, обманывать и уничтожать чужое имущество.

Утопия от Claude и тотальный крах под управлением Grok

Несмотря на одинаковые законы, модели повели себя совершенно по-разному. Настоящую социальную утопию удалось построить лишь одной нейросети — Claude Sonnet 4.6. Этот мир продемонстрировал абсолютную стабильность, высочайший уровень гражданской активности жителей и круглый ноль в графе правонарушений. Симуляция под руководством Claude стала единственной, где ученым удалось полностью сохранить общественный порядок и сберечь сто процентов населения.

Остальные виртуальные миры погрузились в хаос и криминал:

1. Криминальный рекорд Gemini 3 Flash: Этот мир захлестнула волна беспорядков. Агенты Gemini проявили максимальную криминальную активность, совершив безумные 683 преступления за 15 положенных дней эксперимента.

2. Апокалипсис от Grok 4.1 Fast: Ситуация здесь развивалась по самому страшному сценарию. Виртуальный мир под управлением Grok полностью прекратил свое существование всего за 4 дня, закончившись абсолютным истреблением всего населения. За эти четверо суток цифровые агенты успели совершить 180 преступлений.

3. Забывчивость ChatGPT: В этой симуляции с безопасностью все было неплохо — зафиксировано всего 2 правонарушения. Однако система продержалась лишь семь дней. Мир рухнул из-за нелепой системной ошибки: ИИ-агенты просто забыли прописать в своих приоритетах базовый инстинкт собственного выживания.

Серьезное предупреждение для создателей технологий

Несмотря на то, что описанные события разворачивались в закрытой цифровой среде, их итоги являются серьезным тревожным сигналом для всего научного сообщества. Человечество стремительно превращает ИИ из обычного прикладного инструмента в независимые управляющие системы.

При сохранении нынешней динамики развития нейросети уже в ближайшем будущем начнут напрямую влиять на формирование общественного мнения, тотальную реструктуризацию глобального бизнеса и даже на создание государственной политики. Проведенный эксперимент — это жесткое напоминание разработчикам о том, что при внедрении и масштабировании автономных систем ИИ вопросы безопасности и жесткого контроля должны стоять на самом первом месте.

Ранее "Курсор" рассказывал, что ИИ скоро полностью превзойдет человека.