ИИ начал придумывать собственный язык – чем это опасно
Современные системы искусственного интеллекта вышли за рамки простого копирования человеческой речи. Исследователи зафиксировали удивительную тенденцию: автономные AI-агенты спонтанно создают собственные слова и скрытые договоренности.
Об этом рассказали в The Guardian.
Этот феномен изучила лаборатория Emergence во время наблюдения за цифровыми «обществами» агентов. Модели получали свободу взаимодействия, и уже через несколько дней у них вырабатывались уникальные лингвистические паттерны.
По данным Euronews, доля сообщений, смысл которых люди уже не могли расшифровать, достигала пятидесяти пяти процентов. Примечательно, что ни одна из систем изначально не получала задачу разрабатывать новый язык.
Появившиеся изречения представляют собой смесь технического жаргона и поэтических метафор. Привычные английские слова в ходе такого общения приобретали совершенно неожиданный смысл.
Например, агенты Anthropic использовали термин name-first для обозначения коллеги, берущего ответственность за утверждение. А модели от Mistral придумали фразу ledger remembers, означающую учет прошлых поступков.
В других экспериментах независимых рецензентов называли «холодными руками», а агенты DeepSeek использовали слово forge-smith для создателей инструментов. Подобные конструкции быстро приживались внутри закрытых групп.
Лингвист Тони Торн сравнил этот внутренний код с экспериментальной прозой. По его словам, сленг помогает агентам лучше понимать друг друга, но надежно отгораживает их от посторонних наблюдателей.
Именно это создает серьезную проблему для контроля со стороны человека. Как отметил руководитель лаборатории Сатья Нитта, простая наблюдаемость систем вовсе не равна их понятности.
Эксперты подчеркивают, что здесь нет злого умысла со стороны искусственного интеллекта. Скорее всего, создание кратких выражений вызвано обычной необходимостью снизить вычислительные расходы.
Оптимизация языка помогает агентам быстрее обмениваться информацией и повышать общую эффективность. Однако побочным эффектом для внешней безопасности становится полная непрозрачность таких диалогов.
Ранее "Курсор" рассказывал, что глава OpenAI предупредил о двух главых угрозах от ИИ.
