OpenAI меняет поведение ChatGPT – ИИ начнет чаще спорить с людьми

Компания OpenAI намерена сделать ChatGPT менее склонным к автоматическому согласию с пользователями. Чат-бот должен не только поддерживать собеседников, но и указывать на ошибки, оспаривать сомнительные утверждения и предлагать альтернативные точки зрения.

Об этом пишет PCWPlus.hu

Речь идет о проблеме, известной как sycophancy, или чрезмерная угодливость искусственного интеллекта. В таких случаях ИИ подстраивает ответы под ожидания человека вместо того, чтобы объективно оценивать ситуацию. В результате чат-бот может подтверждать ошибочные выводы пользователя или без достаточных оснований поддерживать его мнение.

В OpenAI уже предпринимали шаги для решения этой проблемы. В 2025 году компания отозвала обновление ChatGPT, после которого бот стал чрезмерно льстивым и слишком часто соглашался с собеседниками. В дальнейшем борьба с подобным поведением стала одним из направлений работы над моделью GPT-5.

По данным компании, в ходе целевых тестов доля льстивых ответов сократилась с 14,5% у GPT-4o до менее чем 6% у GPT-5. Результаты ранних измерений в реальных условиях использования также показали снижение чрезмерного согласия с пользователями: на 69% среди бесплатных пользователей и на 75% среди платных подписчиков по сравнению с предыдущей моделью.

Особое значение эти изменения имеют для людей, которые обращаются к искусственному интеллекту за советами по личным вопросам, помощью в разрешении конфликтов или эмоциональной поддержкой. Безоговорочное одобрение со стороны чат-бота может закреплять ошибочные убеждения и влиять на решения человека.

При этом OpenAI не намерена делать ChatGPT холодным или недружелюбным. Компания стремится сохранить способность бота проявлять эмпатию и помогать пользователям, одновременно повышая объективность его ответов. Если собеседник ошибается, ИИ должен уметь объяснить свою позицию и аргументированно не согласиться с ним.

Отдельное внимание уделяется безопасности общения с людьми, которые могут испытывать эмоциональную зависимость от чат-ботов или сталкиваться с психологическими трудностями. В изучении этих вопросов участвуют специалисты соответствующего профиля.

Ранее "Курсор" писал, что ChatGPT меняет способность человека думать - что показал эксперимент.

Исследователи обнаружили неожиданную закономерность в поведении людей после использования ChatGPT, которая вызвала серьезные опасения.