70 стран под прицелом – как фальшивые граждане разрушают демократию

Технологии искусственного интеллекта вышли за рамки простых чат-ботов, превратившись в мощный инструмент политического влияния. Новое исследование предупреждает о появлении так называемых «роев ИИ» — автономных систем, способных массово имитировать реальных пользователей и искусственно формировать общественное мнение, подрывая основы демократии.

Об этом сообщает издание inbox.eu.

Атака цифровых двойников

Ученые проанализировали использование больших языковых моделей и автономных агентов для манипуляции массовым сознанием. Главную опасность представляют скоординированные группы ИИ-ботов, которые проникают в онлайн-сообщества и создают иллюзию широкого консенсуса по спорным вопросам. Эти «цифровые граждане» ведут себя настолько естественно, что отличить их от живых людей в социальных сетях становится практически невозможно.

Статистика подтверждает масштаб угрозы: если в 2017 году организованные манипуляции в соцсетях фиксировались в 28 странах, то сегодня их число выросло до 70. Методы становятся всё более изощренными, а их эффективность уже была доказана в ходе недавних избирательных кампаний в ряде государств.

Автономия и скрытое проникновение

В отличие от примитивных ботов прошлого, современные системы ИИ способны действовать автономно. Они сами координируют свои действия, выбирают наиболее уязвимые сообщества и планомерно внедряют в них нужные нарративы. Это позволяет манипуляторам не просто распространять дезинформацию, а буквально переписывать социальную повестку изнутри.

Проблема регулирования таких систем упирается в юридические и этические тупики. Правоведы до сих пор ведут дискуссии о том, можно ли ограничивать деятельность ИИ-ботов и не является ли их «речь» формой реализации свободы слова, защищенной законом.

Фундамент для манипуляций

Исследователи подчеркивают: путь к нынешнему кризису доверия был проложен годами развития алгоритмов рекомендаций и сбора данных. Сегодня демократические институты оказались беззащитны перед лицом технологий, которые способны генерировать фальшивый общественный запрос в промышленных масштабах. Очевидно, что без внедрения новых методов верификации личностей в цифровом пространстве защита демократии станет практически невыполнимой задачей.

Ранее "Курсор" рассказывал о том, как регулярное использование ИИ влияет на мозг.