Технологии «роев ИИ» позволяют имитировать поведение реальных людей с такой точностью, что фильтры соцсетей перестают их замечать.
canva.com
Технологии искусственного интеллекта вышли за рамки простых чат-ботов, превратившись в мощный инструмент политического влияния. Новое исследование предупреждает о появлении так называемых «роев ИИ» — автономных систем, способных массово имитировать реальных пользователей и искусственно формировать общественное мнение, подрывая основы демократии.
Об этом сообщает издание inbox.eu.
Ученые проанализировали использование больших языковых моделей и автономных агентов для манипуляции массовым сознанием. Главную опасность представляют скоординированные группы ИИ-ботов, которые проникают в онлайн-сообщества и создают иллюзию широкого консенсуса по спорным вопросам. Эти «цифровые граждане» ведут себя настолько естественно, что отличить их от живых людей в социальных сетях становится практически невозможно.
Статистика подтверждает масштаб угрозы: если в 2017 году организованные манипуляции в соцсетях фиксировались в 28 странах, то сегодня их число выросло до 70. Методы становятся всё более изощренными, а их эффективность уже была доказана в ходе недавних избирательных кампаний в ряде государств.
В отличие от примитивных ботов прошлого, современные системы ИИ способны действовать автономно. Они сами координируют свои действия, выбирают наиболее уязвимые сообщества и планомерно внедряют в них нужные нарративы. Это позволяет манипуляторам не просто распространять дезинформацию, а буквально переписывать социальную повестку изнутри.
Проблема регулирования таких систем упирается в юридические и этические тупики. Правоведы до сих пор ведут дискуссии о том, можно ли ограничивать деятельность ИИ-ботов и не является ли их «речь» формой реализации свободы слова, защищенной законом.
Исследователи подчеркивают: путь к нынешнему кризису доверия был проложен годами развития алгоритмов рекомендаций и сбора данных. Сегодня демократические институты оказались беззащитны перед лицом технологий, которые способны генерировать фальшивый общественный запрос в промышленных масштабах. Очевидно, что без внедрения новых методов верификации личностей в цифровом пространстве защита демократии станет практически невыполнимой задачей.
Ранее "Курсор" рассказывал о том, как регулярное использование ИИ влияет на мозг.
В Иране усомнились в адекватности Трампа и изменили подход к переговорам, адаптируя послания специально для…
Эксперт рассказала, как получить максимум пользы от соли и когда ее лучше добавлять в свои…
Текущая война по своей длительности оставила позади Первую Мировую войну. Прямой мирный договор на юридических…
Исследование показало, что популярный продукт может положительно влиять на работу мозга и скорость реакции человека.
Нетаниягу остался за рамками важных переговоров, на которых США обсудят будущее региона и возможную сделку…
Американские зоопсихологи опубликовали детальное руководство по поведению домашних питомцев. Усатые хищники умеют тонко демонстрировать верность.