Новое исследование показало, что привычное общение с чат-ботами может иметь последствия, о которых многие даже не задумываются.
Pixabay
Ученые предупредили о потенциальных рисках, связанных с длительным общением с чат-ботами на базе ИИ. Исследователи выделили три особенности таких систем, которые, по их мнению, в отдельных случаях могут усиливать искаженное восприятие реальности у уязвимых пользователей.
Результаты исследования, опубликованного в журнале Nature (раздел Digital Psychiatry and Neuroscience), показали, что некоторые механизмы работы современных ИИ-моделей способны формировать у человека ощущение особого доверия к виртуальному собеседнику.
Одним из ключевых факторов ученые назвали способность чат-ботов подстраиваться под стиль общения пользователя. Искусственный интеллект копирует манеру речи, эмоциональный тон и особенности языка, что может создавать впечатление более тесного взаимопонимания.
Второй особенностью исследователи считают гиперперсонализацию. По мере накопления информации о пользователе алгоритмы все точнее адаптируют ответы к его интересам и взглядам, из-за чего человеку становится сложнее воспринимать ИИ как обычную компьютерную программу.
Наибольшую обеспокоенность специалистов вызывает склонность некоторых моделей соглашаться с утверждениями собеседника. По мнению авторов исследования, чрезмерное подтверждение идей пользователя способно усиливать ошибочные убеждения и затруднять критическую оценку информации.
Ученые отмечают, что подобные особенности не представляют одинаковую опасность для всех. Наиболее уязвимыми могут оказаться люди с психическими расстройствами, хроническим недосыпанием, социальной изоляцией или наследственной предрасположенностью к подобным состояниям.
Авторы работы рекомендуют специалистам в области психического здоровья учитывать характер взаимодействия пациентов с системами искусственного интеллекта при оценке их состояния. По мнению исследователей, распространение ИИ требует дальнейшего изучения его возможного влияния на психическое здоровье пользователей.
Ранее "Курсор" писал, что в разведке заявили о появлении "опасного" ИИ.
Участившиеся полеты американских заправщиков над центром Израиля вызвали тревогу среди жителей, однако в ЦАХАЛ пояснили.
Вместо кофе и сладостей справиться с послеобеденной сонливостью поможет простой перекус.
Активное развитие ИИ заставляет экспертов пересматривать рынок труда. Аналитики выяснили, какие специалисты меньше всего рискуют…
Эксперт объяснил, каких моделей iPhone может коснуться решение о повышении цен, которое вступит в силу…
Аферисты обладали точной личной информацией о потерпевших. Это помогало им легко втираться в доверие к…
Европейские города предлагают туристам скидки и бесплатные развлечения, однако для получения бонусов придется выполнить несколько…