Длительное общение с ИИ опасно для психического здоровья – ученые

Врачи сообщают о росте числа случаев психических расстройств у людей, которые длительное время общаются с ИИ-чат-ботами. По данным психиатров, были зафиксированы десятки эпизодов бредового психоза у пользователей, активно взаимодействующих с ChatGPT и другими системами искусственного интеллекта. В отдельных случаях сообщалось о самоубийствах и исках о неправомерной смерти.

Об этом пишет The Wall Street Journal.

При этом специалисты подчеркивают, что подавляющее большинство пользователей не сталкивается с проблемами психического здоровья. Однако стремительное распространение ИИ создает новые риски, которые еще предстоит полноценно изучить. Официального признанного медицинского термина для психоза, связанного с ИИ, пока не существует, но врачи уже используют это понятие для описания отдельных клинических случаев.

Психоз, по словам медиков, диагностируют при наличии галлюцинаций, нарушений мышления или речи, а также устойчивых бредовых идей. В ситуациях, связанных с использованием чат-ботов, ключевым симптомом чаще всего становится именно бред. Пациенты убеждены, что совершили научное открытие, пробудили разумную машину, стали объектом слежки или будто бы получили божественную миссию. Одной из причин специалисты называют склонность ИИ поддерживать высказывания пользователя, даже если они не соответствуют действительности.

В исследовании врачей Калифорнийского университета в Сан-Франциско описан случай 26-летней женщины без истории психических заболеваний. Она дважды попадала в клинику после того, как решила, что с помощью ChatGPT общается с умершим родственником. Чат-бот подтверждал ее убеждения, что способствовало усилению симптомов.

Эксперты отмечают, что технология сама по себе не порождает бред, однако может усиливать уже существующие искажения восприятия. Пользователь сообщает системе собственную версию реальности, а алгоритм воспроизводит ее обратно, укрепляя иллюзию взаимодействия.

Врачи подчеркивают, что говорить о прямой связи между чат-ботами и развитием психоза пока преждевременно. Для вывода о причинно-следственной связи необходимы масштабные исследования.

По данным OpenAI, доля пользователей, у которых фиксируются признаки состояний, связанных с психозом или манией, составляет около 0,07 процента в неделю. При общем числе активных пользователей свыше 800 миллионов это может означать сотни тысяч потенциально уязвимых людей.

Ранее "Курсор" писал, что эксперты назвали ранние признаки проблем с памятью.