Новое исследование показало, что привычное общение с чат-ботами может иметь последствия, о которых многие даже не задумываются.
Pixabay
Ученые предупредили о потенциальных рисках, связанных с длительным общением с чат-ботами на базе ИИ. Исследователи выделили три особенности таких систем, которые, по их мнению, в отдельных случаях могут усиливать искаженное восприятие реальности у уязвимых пользователей.
Результаты исследования, опубликованного в журнале Nature (раздел Digital Psychiatry and Neuroscience), показали, что некоторые механизмы работы современных ИИ-моделей способны формировать у человека ощущение особого доверия к виртуальному собеседнику.
Одним из ключевых факторов ученые назвали способность чат-ботов подстраиваться под стиль общения пользователя. Искусственный интеллект копирует манеру речи, эмоциональный тон и особенности языка, что может создавать впечатление более тесного взаимопонимания.
Второй особенностью исследователи считают гиперперсонализацию. По мере накопления информации о пользователе алгоритмы все точнее адаптируют ответы к его интересам и взглядам, из-за чего человеку становится сложнее воспринимать ИИ как обычную компьютерную программу.
Наибольшую обеспокоенность специалистов вызывает склонность некоторых моделей соглашаться с утверждениями собеседника. По мнению авторов исследования, чрезмерное подтверждение идей пользователя способно усиливать ошибочные убеждения и затруднять критическую оценку информации.
Ученые отмечают, что подобные особенности не представляют одинаковую опасность для всех. Наиболее уязвимыми могут оказаться люди с психическими расстройствами, хроническим недосыпанием, социальной изоляцией или наследственной предрасположенностью к подобным состояниям.
Авторы работы рекомендуют специалистам в области психического здоровья учитывать характер взаимодействия пациентов с системами искусственного интеллекта при оценке их состояния. По мнению исследователей, распространение ИИ требует дальнейшего изучения его возможного влияния на психическое здоровье пользователей.
Ранее "Курсор" писал, что в разведке заявили о появлении "опасного" ИИ.
Двое солдат ЦАХАЛа погибли в Секторе Газа после взрыва беспилотника, упавшего на территории военной базы.
Некоторые привычные продукты могут повышать артериальное давление и увеличивать риск развития гипертонии.
Турция отвергла обвинения Нетаниягу в адрес Реджепа Тайипа Эрдогана, назвав их безосновательными и несовместимыми с…
Владельцам смартфонов больше не обязательно постоянно следить за процентами заряда, однако для батареи остается более…
Правильный завтрак поможет привести уровень холестерина в норму и улучшить самочувствие.
Чай благодаря антиоксидантам может способствовать сохранению плотности костей, а молоко обеспечивает организм кальцием.