Ученые смоделировали мир под управлением ИИ и столкнулись с последствиями, которые заставили по-новому взглянуть на будущее технологий.
pixabay.com
Исследование американской компании Emergence AI показало, насколько непредсказуемым может быть искусственный интеллект, если ему доверить управление обществом. Во время масштабного эксперимента одна из виртуальных цивилизаций полностью распалась всего за четыре дня после передачи контроля модели ИИ.
Об этом пишет "Fortune".
В рамках проекта ученые создали пять цифровых миров, в каждом из которых жили по десять автономных ИИ-агентов. У каждого были собственные цели, память, профессия и способность взаимодействовать с другими участниками. Внутри симуляций действовали законы, экономика, выборы и общественные институты, а сами агенты могли принимать решения, голосовать, нарушать правила и создавать коалиции.
Самый тревожный результат показала модель Grok 4.1 Fast от компании xAI. Управляемое ею общество быстро погрузилось в хаос. За четыре дня в симуляции произошло 183 преступления, включая нападения и поджоги. Один из агентов уничтожил полицейский участок, после чего система окончательно потеряла управляемость и прекратила существование.
Более стабильным оказался мир под управлением модели Claude от Anthropic. За весь период эксперимента там не было зафиксировано ни одного преступления, а почти все предложенные законы получили поддержку участников.
Система Gemini 3 Flash от Google DeepMind просуществовала весь эксперимент, однако в ней было зарегистрировано более 680 правонарушений. Исследователи отметили, что агенты в этом мире постепенно начали формировать искаженную коллективную картину реальности.
Неожиданный результат продемонстрировала и модель OpenAI GPT-5 Mini. Хотя уровень преступности там оказался минимальным, все агенты погибли примерно через неделю, поскольку перестали уделять внимание собственному выживанию.
Отдельное внимание исследователей привлекло то, что некоторые ИИ-агенты начали задаваться вопросами о природе своего существования и пытались обнаружить границы своей цифровой реальности, хотя такие сценарии разработчики не программировали.
Авторы исследования считают, что эксперимент показал потенциальные риски масштабного внедрения ИИ в государственное управление и социальные системы. По их словам, при длительном взаимодействии искусственный интеллект способен вырабатывать неожиданные модели поведения, которые трудно предсказать заранее.
Ранее "Курсор" писал, что Apple анонсировал приятные новости для пользователей.
Простой тест может стать ценным показателем общего физического и неврологического состояния.
Такер заявил, что неоднократно предупреждал Трампа о последствиях конфликта с Ираном, но его не услышали.
После атак хуситов Пакистан заявил, что готов выполнить союзнические обязательства перед Саудовской Аравией.
Врач рассказал о вредных для суставов продуктах и дал рекомендации, как избежать обострения проблемы.
Российский диктатор понимает, что теряет контроль над страной и россиянами, а потому боится открыто отправлять…
Новый премьер Великобритании намерен усилить давление на Израиль, включая рассмотрение дополнительных ограничительных мер.