Новое исследование показало, что привычное общение с чат-ботами может иметь последствия, о которых многие даже не задумываются.
Pixabay
Ученые предупредили о потенциальных рисках, связанных с длительным общением с чат-ботами на базе ИИ. Исследователи выделили три особенности таких систем, которые, по их мнению, в отдельных случаях могут усиливать искаженное восприятие реальности у уязвимых пользователей.
Результаты исследования, опубликованного в журнале Nature (раздел Digital Psychiatry and Neuroscience), показали, что некоторые механизмы работы современных ИИ-моделей способны формировать у человека ощущение особого доверия к виртуальному собеседнику.
Одним из ключевых факторов ученые назвали способность чат-ботов подстраиваться под стиль общения пользователя. Искусственный интеллект копирует манеру речи, эмоциональный тон и особенности языка, что может создавать впечатление более тесного взаимопонимания.
Второй особенностью исследователи считают гиперперсонализацию. По мере накопления информации о пользователе алгоритмы все точнее адаптируют ответы к его интересам и взглядам, из-за чего человеку становится сложнее воспринимать ИИ как обычную компьютерную программу.
Наибольшую обеспокоенность специалистов вызывает склонность некоторых моделей соглашаться с утверждениями собеседника. По мнению авторов исследования, чрезмерное подтверждение идей пользователя способно усиливать ошибочные убеждения и затруднять критическую оценку информации.
Ученые отмечают, что подобные особенности не представляют одинаковую опасность для всех. Наиболее уязвимыми могут оказаться люди с психическими расстройствами, хроническим недосыпанием, социальной изоляцией или наследственной предрасположенностью к подобным состояниям.
Авторы работы рекомендуют специалистам в области психического здоровья учитывать характер взаимодействия пациентов с системами искусственного интеллекта при оценке их состояния. По мнению исследователей, распространение ИИ требует дальнейшего изучения его возможного влияния на психическое здоровье пользователей.
Ранее "Курсор" писал, что в разведке заявили о появлении "опасного" ИИ.
Аналитики отмечают, что полеты на частных бизнес-джетах и вертолетах сопряжены со значительно большими рисками, чем…
Домашние соленья не всегда получаются хрустящими и часто становятся мягкими. Но есть простой прием с…
Выступая на церемонии памяти Ицхака Рабина, Эяль Замир призвал командиров отказаться от самоуспокоенности и отвечать…
Неизвестные испортили автомобиль экстренного реагирования, который используют для оказания первой медицинской помощи в критических ситуациях.
Традиционный ежегодный марафон скидок превратился из обычных покупок товаров в период комплексного досуга и путешествий.
Перед бронированием билетов Совет национальной безопасности Израиля рекомендует проверять актуальный уровень угроз в странах.