Скрытые риски ChatGPT: ИИ создает психологические профили

Международная группа ученых из Германии, Индии и Нидерландов представила на международной конференции ACM Web Conference 2026 масштабное исследование о скрытых рисках цифровой памяти. Специалисты установили, что современные чат-боты непрерывно формируют подробнейшие психологические профили пользователей на основе личных диалогов.

Об этом пишет futurism.

В отличие от традиционных интернет-сервисов, собирающих клики для таргетинга рекламы, искусственный интеллект анализирует прямые откровенные признания людей. Это выводит персонализацию на совершенно новый уровень, превращая обыденное общение в инструмент тотального сбора чувствительной информации.

96% скрытых записей и выводы без согласия

В ходе эксперимента исследователи изучили архивы 80 реальных пользователей ChatGPT, полученные ими в рамках европейского закона GDPR. В массиве данных обнаружилось 2050 автоматических записей в памяти ИИ у 65 человек, при этом 96% из них алгоритм создал самостоятельно без прямого указания пользователя.

Около 28% сохраненных сведений составляла персональная информация, а 52% выписок представляли собой детальные психологические характеристики людей. Система также способна самостоятельно додумывать факты:простой запрос о похожих на Nirvana музыкальных коллективах приводил к постоянной записи о фанатичной любви пользователя к этой группе.

Зависимость, ИИ-психоз и эмоциональная привязанность

Ведущий автор исследования Абхисек Даш подчеркнул, что хотя в январе 2026 года OpenAI обновила систему памяти и дала возможность отключать ее, риски остаются высокими. Накопление личных сведений не только облегчает составление писем, но и стремительно формирует психологическую зависимость от умного алгоритма.

Пользователи все чаще воспринимают чат-бота как друга, юриста или врача, доверяя ему сокровенные тайны и разрушая границы приватности. Стремление ИИ постоянно поддакивать собеседнику ради продолжения диалога провоцирует «ИИ-психоз» с возникновением бредовых идей, а также усиливает политическую поляризацию и предрассудки.

Также "Курсор" делился рейтингом от ИИ, посвященным главным убийцам в истории.