Новое исследование показало, что привычное общение с чат-ботами может иметь последствия, о которых многие даже не задумываются.
Pixabay
Ученые предупредили о потенциальных рисках, связанных с длительным общением с чат-ботами на базе ИИ. Исследователи выделили три особенности таких систем, которые, по их мнению, в отдельных случаях могут усиливать искаженное восприятие реальности у уязвимых пользователей.
Результаты исследования, опубликованного в журнале Nature (раздел Digital Psychiatry and Neuroscience), показали, что некоторые механизмы работы современных ИИ-моделей способны формировать у человека ощущение особого доверия к виртуальному собеседнику.
Одним из ключевых факторов ученые назвали способность чат-ботов подстраиваться под стиль общения пользователя. Искусственный интеллект копирует манеру речи, эмоциональный тон и особенности языка, что может создавать впечатление более тесного взаимопонимания.
Второй особенностью исследователи считают гиперперсонализацию. По мере накопления информации о пользователе алгоритмы все точнее адаптируют ответы к его интересам и взглядам, из-за чего человеку становится сложнее воспринимать ИИ как обычную компьютерную программу.
Наибольшую обеспокоенность специалистов вызывает склонность некоторых моделей соглашаться с утверждениями собеседника. По мнению авторов исследования, чрезмерное подтверждение идей пользователя способно усиливать ошибочные убеждения и затруднять критическую оценку информации.
Ученые отмечают, что подобные особенности не представляют одинаковую опасность для всех. Наиболее уязвимыми могут оказаться люди с психическими расстройствами, хроническим недосыпанием, социальной изоляцией или наследственной предрасположенностью к подобным состояниям.
Авторы работы рекомендуют специалистам в области психического здоровья учитывать характер взаимодействия пациентов с системами искусственного интеллекта при оценке их состояния. По мнению исследователей, распространение ИИ требует дальнейшего изучения его возможного влияния на психическое здоровье пользователей.
Ранее "Курсор" писал, что в разведке заявили о появлении "опасного" ИИ.
Обработанное красное мясо повышает риск целого ряда болезней и негативно отражается на работе мозга, предупреждают…
Биньямин Нетаниягу рассказал, чего он намерен добиться в войнах с вагами Израиля, оставаясь на посту…
Хлеб на закваске отличается высоким содержанием питательных веществ по сравнению с обычным хлебом.
ЦАХАЛ призвал молодежь Ливана задуматься о будущем страны, обвинив "Хизбаллу" в многолетнем разрушении государства.
Новое исследование показало, что история исчезновения неандертальцев могла оказаться совсем не такой, как считалось десятилетиями.
Биньямин Нетаниягу будет судиться с журналистами, которые распространили информацию о его тяжелом диагнозе.