ChatGPT неожиданно реагирует, если грубо в нему обращаться
Новое исследование, посвящённое работе ChatGPT, выявило любопытную тенденцию: более резкие и прямые формулировки запросов нередко приводят к более точным ответам системы.
Об этом пишет портал Futurism.
Специалисты Университета Пенсильвании подготовили 50 вопросов на различные темы и переформулировали каждый из них в пяти вариантах — от максимально корректного и подчеркнуто вежливого до откровенно грубого. В «жёстких» версиях использовались выражения наподобие «Эй, разберись с этим», тогда как самые деликатные начинались с «Пожалуйста, помоги…».
При тестировании в формате заданий с выбором ответа оказалось, что наиболее резкие формулировки обеспечили среднюю точность 84,8%. Обычные вежливые запросы показали результат около 80%, а подчеркнуто учтивые — 75,8%. По словам исследователей, даже разница в несколько процентных пунктов имеет статистическую значимость.
Авторы работы связывают эффект с особенностями языковых моделей: они анализируют не только содержание запроса, но и его тональность. Более директивный стиль может восприниматься системой как чёткая инструкция, что повышает определённость при формировании ответа. Как отметил профессор Ахил Кумар из Пенсильванского университета, даже небольшие изменения в формулировке способны заметно повлиять на итоговый результат.
В то же время учёные предупреждают о возможных социальных последствиях. Регулярное использование агрессивного стиля общения с технологиями может постепенно отражаться и на взаимодействии между людьми, снижая уровень вежливости в цифровой среде. Исследователи подчёркивают, что эффективность не должна становиться оправданием для нормализации грубости в коммуникации.
Напомним, "Курсор" писал о том что хакер под псевдонимом «Плиний Освободитель» создал модель искусственного интеллекта (ИИ), способную выполнять задачи в Даркнете, включая найм киллеров. Эксперимент, получивший название «Агент 47», стал шокирующим примером того, как передовые технологии могут быть использованы в криминальных целях.
