Технологии

70 стран под прицелом – как фальшивые граждане разрушают демократию

Технологии «роев ИИ» позволяют имитировать поведение реальных людей с такой точностью, что фильтры соцсетей перестают их замечать.

Технологии искусственного интеллекта вышли за рамки простых чат-ботов, превратившись в мощный инструмент политического влияния. Новое исследование предупреждает о появлении так называемых «роев ИИ» — автономных систем, способных массово имитировать реальных пользователей и искусственно формировать общественное мнение, подрывая основы демократии.

Об этом сообщает издание inbox.eu.

Атака цифровых двойников

Ученые проанализировали использование больших языковых моделей и автономных агентов для манипуляции массовым сознанием. Главную опасность представляют скоординированные группы ИИ-ботов, которые проникают в онлайн-сообщества и создают иллюзию широкого консенсуса по спорным вопросам. Эти «цифровые граждане» ведут себя настолько естественно, что отличить их от живых людей в социальных сетях становится практически невозможно.

Статистика подтверждает масштаб угрозы: если в 2017 году организованные манипуляции в соцсетях фиксировались в 28 странах, то сегодня их число выросло до 70. Методы становятся всё более изощренными, а их эффективность уже была доказана в ходе недавних избирательных кампаний в ряде государств.

Автономия и скрытое проникновение

В отличие от примитивных ботов прошлого, современные системы ИИ способны действовать автономно. Они сами координируют свои действия, выбирают наиболее уязвимые сообщества и планомерно внедряют в них нужные нарративы. Это позволяет манипуляторам не просто распространять дезинформацию, а буквально переписывать социальную повестку изнутри.

Проблема регулирования таких систем упирается в юридические и этические тупики. Правоведы до сих пор ведут дискуссии о том, можно ли ограничивать деятельность ИИ-ботов и не является ли их «речь» формой реализации свободы слова, защищенной законом.

Фундамент для манипуляций

Исследователи подчеркивают: путь к нынешнему кризису доверия был проложен годами развития алгоритмов рекомендаций и сбора данных. Сегодня демократические институты оказались беззащитны перед лицом технологий, которые способны генерировать фальшивый общественный запрос в промышленных масштабах. Очевидно, что без внедрения новых методов верификации личностей в цифровом пространстве защита демократии станет практически невыполнимой задачей.

Ранее "Курсор" рассказывал о том, как регулярное использование ИИ влияет на мозг.

Автор материала:
Рами Мадрих

Недавние новости

Главная причина неудач: какая привычка мешает вашему знаку Зодиака

Иногда причиной неудач в жизни человека может быть исключительно его привычки и поведение, говорят астрологи.

3 минуты назад

Иран отреагировал на заявление Трампа о “скором подписании” сделки

В Иране заявили, что Вашингтон пытается ускорить переговорный процесс, несмотря на сохраняющиеся разногласия сторон.

14 минут назад

Как вовремя распознать сердечный приступ - важные нюансы

Как определить инфаркт и быстро оказать первую помощь, рассказали врачи.

19 минут назад

Как изменится сфера авиаперевозок из-за войны в Иране – аналитики

Международные экономические ведомства опубликовали мрачный финансовый прогноз для авиаперевозчиков. Рост цен на энергоресурсы спровоцировал кризис.

26 минут назад

Как Иран сбил вертолет ВВС США - детали от WSJ

Обломки дрона пробили корпус машины, а экипажу удалось покинуть вертолет за считанные секунды до его…

41 минута назад

Как бег влияет на мозг - исследование

Исследователи обнаружили белок, который вырабатывается во время тренировок и оказывает положительное влияние на умственные способности.

47 минут назад