Технологии «роев ИИ» позволяют имитировать поведение реальных людей с такой точностью, что фильтры соцсетей перестают их замечать.
canva.com
Технологии искусственного интеллекта вышли за рамки простых чат-ботов, превратившись в мощный инструмент политического влияния. Новое исследование предупреждает о появлении так называемых «роев ИИ» — автономных систем, способных массово имитировать реальных пользователей и искусственно формировать общественное мнение, подрывая основы демократии.
Об этом сообщает издание inbox.eu.
Ученые проанализировали использование больших языковых моделей и автономных агентов для манипуляции массовым сознанием. Главную опасность представляют скоординированные группы ИИ-ботов, которые проникают в онлайн-сообщества и создают иллюзию широкого консенсуса по спорным вопросам. Эти «цифровые граждане» ведут себя настолько естественно, что отличить их от живых людей в социальных сетях становится практически невозможно.
Статистика подтверждает масштаб угрозы: если в 2017 году организованные манипуляции в соцсетях фиксировались в 28 странах, то сегодня их число выросло до 70. Методы становятся всё более изощренными, а их эффективность уже была доказана в ходе недавних избирательных кампаний в ряде государств.
В отличие от примитивных ботов прошлого, современные системы ИИ способны действовать автономно. Они сами координируют свои действия, выбирают наиболее уязвимые сообщества и планомерно внедряют в них нужные нарративы. Это позволяет манипуляторам не просто распространять дезинформацию, а буквально переписывать социальную повестку изнутри.
Проблема регулирования таких систем упирается в юридические и этические тупики. Правоведы до сих пор ведут дискуссии о том, можно ли ограничивать деятельность ИИ-ботов и не является ли их «речь» формой реализации свободы слова, защищенной законом.
Исследователи подчеркивают: путь к нынешнему кризису доверия был проложен годами развития алгоритмов рекомендаций и сбора данных. Сегодня демократические институты оказались беззащитны перед лицом технологий, которые способны генерировать фальшивый общественный запрос в промышленных масштабах. Очевидно, что без внедрения новых методов верификации личностей в цифровом пространстве защита демократии станет практически невыполнимой задачей.
Ранее "Курсор" рассказывал о том, как регулярное использование ИИ влияет на мозг.
Иногда причиной неудач в жизни человека может быть исключительно его привычки и поведение, говорят астрологи.
В Иране заявили, что Вашингтон пытается ускорить переговорный процесс, несмотря на сохраняющиеся разногласия сторон.
Как определить инфаркт и быстро оказать первую помощь, рассказали врачи.
Международные экономические ведомства опубликовали мрачный финансовый прогноз для авиаперевозчиков. Рост цен на энергоресурсы спровоцировал кризис.
Обломки дрона пробили корпус машины, а экипажу удалось покинуть вертолет за считанные секунды до его…
Исследователи обнаружили белок, который вырабатывается во время тренировок и оказывает положительное влияние на умственные способности.