Вежливость заставляет ИИ отвечать иначе — интересный эксперимент

То, как человек разговаривает с ИИ, может заметно влиять на получаемый результат. Исследователи из Университета Инсбрука обнаружили связь между стилем общения пользователей и объемом информации в ответах языковых моделей.

Для эксперимента ученые смоделировали около 18 тысяч диалогов с тремя языковыми моделями. Запросы составлялись в пяти различных стилях — от вежливого и развернутого общения до коротких и грубых обращений.

Результаты показали существенную разницу. Когда общение напоминало обычный разговор между людьми, искусственный интеллект генерировал более подробные ответы и предоставлял больше полезной информации.

При этом значение имела не только формулировка самого вопроса. В некоторых диалогах пользователи благодарили чат-бота за помощь или извинялись после необоснованных обвинений в ошибке.

По данным исследования, при вежливом стиле общения ответы могли быть почти вдвое длиннее по сравнению с результатами на предельно короткие запросы. Количество полезной информации при этом увеличивалось примерно в полтора раза.

Иная картина наблюдалась при грубом общении. В таких случаях модели могли тратить больше времени на обработку запроса, однако итоговый ответ зачастую оказывался короче и содержал меньше информации.

Исследователи также пришли к выводу, что результаты, полученные после невежливых обращений, чаще могли требовать дополнительной проверки.

Авторы работы связывают обнаруженный эффект с особенностями обучения современных языковых моделей. Большая часть текстов, на которых они обучаются, создана людьми, поэтому стиль диалога способен влиять на то, каким образом модель продолжает разговор и насколько развернутый ответ формирует.

При этом исследование выявило и обратную сторону более подробного общения. Чем длиннее ответ искусственного интеллекта, тем больше вычислительных ресурсов требуется для его генерации.

Ранее "Курсор" писал, что врачи рассказали о пользе употребления некоторых овощей и фруктов вместе с кожурой.