ИИ может незаметно влиять на психику человека - исследование
Ученые предупредили о потенциальных рисках, связанных с длительным общением с чат-ботами на базе ИИ. Исследователи выделили три особенности таких систем, которые, по их мнению, в отдельных случаях могут усиливать искаженное восприятие реальности у уязвимых пользователей.
Результаты исследования, опубликованного в журнале Nature (раздел Digital Psychiatry and Neuroscience), показали, что некоторые механизмы работы современных ИИ-моделей способны формировать у человека ощущение особого доверия к виртуальному собеседнику.
Одним из ключевых факторов ученые назвали способность чат-ботов подстраиваться под стиль общения пользователя. Искусственный интеллект копирует манеру речи, эмоциональный тон и особенности языка, что может создавать впечатление более тесного взаимопонимания.
Второй особенностью исследователи считают гиперперсонализацию. По мере накопления информации о пользователе алгоритмы все точнее адаптируют ответы к его интересам и взглядам, из-за чего человеку становится сложнее воспринимать ИИ как обычную компьютерную программу.
Наибольшую обеспокоенность специалистов вызывает склонность некоторых моделей соглашаться с утверждениями собеседника. По мнению авторов исследования, чрезмерное подтверждение идей пользователя способно усиливать ошибочные убеждения и затруднять критическую оценку информации.
Ученые отмечают, что подобные особенности не представляют одинаковую опасность для всех. Наиболее уязвимыми могут оказаться люди с психическими расстройствами, хроническим недосыпанием, социальной изоляцией или наследственной предрасположенностью к подобным состояниям.
Авторы работы рекомендуют специалистам в области психического здоровья учитывать характер взаимодействия пациентов с системами искусственного интеллекта при оценке их состояния. По мнению исследователей, распространение ИИ требует дальнейшего изучения его возможного влияния на психическое здоровье пользователей.
Ранее "Курсор" писал, что в разведке заявили о появлении "опасного" ИИ.
