ИИ запретили упоминать гоблинов - названа причина

Компания OpenAI внесла изменения в работу своих новых моделей ИИ, ограничив использование слов, связанных с мифическими существами. Речь идет о таких системах, как инструменты программирования Codex и новые версии языковых моделей, включая GPT-5.5.

Об этом пишет "Wired".

Поводом для корректировки стали особенности поведения ИИ, на которые обратили внимание пользователи. В ряде случаев модели начали регулярно использовать образы гоблинов, гремлинов и других существ при описании технических ошибок и сбоев. Некоторые ответы включали случайные фразы с подобными персонажами, а иногда система даже применяла такие образы к самой себе.

По данным разработчиков, подобная тенденция усилилась в последних версиях моделей. В частности, отмечается значительный рост частоты использования таких терминов. Специалисты связывают это с особенностями процесса обучения, при котором алгоритмы могли неявно «поощряться» за использование образных и метафорических выражений.

В результате компания приняла решение ввести ограничения. Теперь упоминание подобных существ допускается только в тех случаях, когда это напрямую связано с запросом пользователя. Основная цель изменений — повысить точность, нейтральность и предсказуемость ответов, особенно в технических и профессиональных задачах.

При этом новые модели продолжают демонстрировать высокий уровень возможностей. Они лучше справляются со сложными задачами, включая программирование, планирование и научные исследования, а также способны выполнять многоэтапные операции с минимальным вмешательством пользователя.

Ранее "Курсор" писал, что названа привычка, которая незаметно убивает Iphone.