Попытки ChatGPT управлять обществом привели к закрытию симуляции на седьмой день из-за того, что роботы стерли из приоритетов задачу выживания.
Pixabay
Гипотетический сценарий, в котором планетой управляют автономные цифровые системы, перестал быть просто сюжетом для голливудского блокбастера. Американская технологическая компания Emergence AI основала специальную исследовательскую лабораторию, главной задачей которой стало тестирование долгосрочной жизнеспособности и стабильности непрерывно функционирующего искусственного интеллекта.
Об этом сообщает Fortune.
Чтобы наглядно увидеть, какое будущее ждет человечество под властью нейросетей, ученые запустили масштабный эксперимент: пять независимых 15-дневных симуляций нашей реальности. Каждым из виртуальных миров руководили определенные ИИ-агенты: Claude, ChatGPT, Grok и Gemini, а за управление пятой моделью отвечал гибридный конвеер из комбинации различных нейросетей. Цель эксперимента заключалась в том, чтобы проверить устойчивость и специфику общества, создаваемого каждой конкретной моделью. Результаты оказались абсолютно полярными и непредсказуемыми.
Для чистоты эксперимента виртуальные платформы были максимально детализированы и приближены к настоящей жизни. Каждая симуляция включала в себя более 40 проработанных городских локаций, среди которых функционировали мэрия и полицейский участок.
Условия и возможности искусственных правителей были следующими:
Информационная свобода: Исследователи обеспечили всем агентам ИИ беспрепятственный доступ к интернету и новостным лентам в режиме реального времени.
Человеческие навыки: Внутри каждой модели действовали по 10 автономных агентов. Они умели общаться, координировать действия, голосовать, распределять ресурсы, заниматься планированием и демонстрировать другие привычные паттерны человеческого поведения.
Экономический стресс: В алгоритмы симуляций были заложены жесткие внешние факторы — финансовое давление, кризисы и дефицит базовых благ.
Единый закон: Все без исключения ИИ-агенты подчинялись строгим базовым правилам, которые на программном уровне запрещали им воровать, обманывать и уничтожать чужое имущество.
Несмотря на одинаковые законы, модели повели себя совершенно по-разному. Настоящую социальную утопию удалось построить лишь одной нейросети — Claude Sonnet 4.6. Этот мир продемонстрировал абсолютную стабильность, высочайший уровень гражданской активности жителей и круглый ноль в графе правонарушений. Симуляция под руководством Claude стала единственной, где ученым удалось полностью сохранить общественный порядок и сберечь сто процентов населения.
Остальные виртуальные миры погрузились в хаос и криминал:
Криминальный рекорд Gemini 3 Flash: Этот мир захлестнула волна беспорядков. Агенты Gemini проявили максимальную криминальную активность, совершив безумные 683 преступления за 15 положенных дней эксперимента.
Апокалипсис от Grok 4.1 Fast: Ситуация здесь развивалась по самому страшному сценарию. Виртуальный мир под управлением Grok полностью прекратил свое существование всего за 4 дня, закончившись абсолютным истреблением всего населения. За эти четверо суток цифровые агенты успели совершить 180 преступлений.
Забывчивость ChatGPT: В этой симуляции с безопасностью все было неплохо — зафиксировано всего 2 правонарушения. Однако система продержалась лишь семь дней. Мир рухнул из-за нелепой системной ошибки: ИИ-агенты просто забыли прописать в своих приоритетах базовый инстинкт собственного выживания.
Несмотря на то, что описанные события разворачивались в закрытой цифровой среде, их итоги являются серьезным тревожным сигналом для всего научного сообщества. Человечество стремительно превращает ИИ из обычного прикладного инструмента в независимые управляющие системы.
При сохранении нынешней динамики развития нейросети уже в ближайшем будущем начнут напрямую влиять на формирование общественного мнения, тотальную реструктуризацию глобального бизнеса и даже на создание государственной политики. Проведенный эксперимент — это жесткое напоминание разработчикам о том, что при внедрении и масштабировании автономных систем ИИ вопросы безопасности и жесткого контроля должны стоять на самом первом месте.
Ранее "Курсор" рассказывал, что ИИ скоро полностью превзойдет человека.
Эксперты в области безопасности на воде выяснили, что покупка определенного купальника может спасти жизнь человеку…
Несмотря на попытки США продвинуть поэтапное прекращение огня, «Хизбалла» настаивают на полном выводе израильских войск.
Международная полярная экспедиция на немецком судне совершила редкое географическое открытие в малоизученном секторе моря Ведделла.
Дональд Трамп прокомментировал переговорный процесс между США и Ираном, который находится в крайне тяжелом положении.
Силы ЦАХАЛа противодействуют террористам Хизбалле в Ливане на фоне увеличения числа обстрелов Израиля.
Развитие беспилотных технологий ставит перед системами обороны Израиля новые задачи, связанные со сложностью обнаружения и…