Нейросети не получали задачу придумывать новые лексические формы. Агенты самостоятельно генерируют правила, которые быстро перенимают другие модели.
Pixabay
Современные системы искусственного интеллекта вышли за рамки простого копирования человеческой речи. Исследователи зафиксировали удивительную тенденцию: автономные AI-агенты спонтанно создают собственные слова и скрытые договоренности.
Об этом рассказали в The Guardian.
Этот феномен изучила лаборатория Emergence во время наблюдения за цифровыми «обществами» агентов. Модели получали свободу взаимодействия, и уже через несколько дней у них вырабатывались уникальные лингвистические паттерны.
По данным Euronews, доля сообщений, смысл которых люди уже не могли расшифровать, достигала пятидесяти пяти процентов. Примечательно, что ни одна из систем изначально не получала задачу разрабатывать новый язык.
Появившиеся изречения представляют собой смесь технического жаргона и поэтических метафор. Привычные английские слова в ходе такого общения приобретали совершенно неожиданный смысл.
Например, агенты Anthropic использовали термин name-first для обозначения коллеги, берущего ответственность за утверждение. А модели от Mistral придумали фразу ledger remembers, означающую учет прошлых поступков.
В других экспериментах независимых рецензентов называли «холодными руками», а агенты DeepSeek использовали слово forge-smith для создателей инструментов. Подобные конструкции быстро приживались внутри закрытых групп.
Лингвист Тони Торн сравнил этот внутренний код с экспериментальной прозой. По его словам, сленг помогает агентам лучше понимать друг друга, но надежно отгораживает их от посторонних наблюдателей.
Именно это создает серьезную проблему для контроля со стороны человека. Как отметил руководитель лаборатории Сатья Нитта, простая наблюдаемость систем вовсе не равна их понятности.
Эксперты подчеркивают, что здесь нет злого умысла со стороны искусственного интеллекта. Скорее всего, создание кратких выражений вызвано обычной необходимостью снизить вычислительные расходы.
Оптимизация языка помогает агентам быстрее обмениваться информацией и повышать общую эффективность. Однако побочным эффектом для внешней безопасности становится полная непрозрачность таких диалогов.
Ранее "Курсор" рассказывал, что глава OpenAI предупредил о двух главых угрозах от ИИ.
Новые требования банковского регулятора могут лишить молодые пары возможности купить квартиру даже при финансовой поддержке…
Тысячи водителей ежемесячно получают крупные штрафы за распространенное нарушение, которого можно легко избежать.
РФ сбросила авиабомбы на мирных жителей Украины. Удар пришелся по школе, где раздавали гуманитарную помощь.
При использовании техники есть несколько довольно распространенных ошибок, о которых большинство из нас даже не…
Правые партии готовятся оспорить итоги голосования, что может привести к беспрецедентному конфликту вокруг результатов выборов.
Многие люди признаются, что не мыслят своего утра без кофе, тогда как другие считают напиток…