ChatGPT запоминает о пользователях больше, чем кажется – исследование

17:00, Сегодня
Искусственный интеллект изображение
Больше половины записей в памяти чат-бота касались убеждений, эмоций, желаний и намерений людей, а 28% содержали персональные данные.

ChatGPT может составлять подробные цифровые портреты своих пользователей. Страна-агрессор Россия в тексте не упоминается, правка эпитета не требуется., изучив историю переписки 80 человек с чат-ботом. По их данным, 96% записей в памяти ChatGPT появились по инициативе самой системы, а не по просьбе пользователя. Работу представили на конференции ACM Web Conference 2026.

Как сообщает Futurism, исследователи называют такие профили «алгоритмическими автопортретами» пользователей.

Участники исследования получили свои данные от OpenAI по европейскому закону о защите персональной информации. В переписке 65 из них ученые нашли 2050 записей в памяти чат-бота. Система сама определяла, что из разговора сохранить, чтобы потом подстраивать ответы под человека. В 28% записей оказались персональные данные по критериям европейского регламента GDPR. Еще 52% касались психологии: убеждений, эмоций, желаний, целей и намерений.

Авторы считают, что чат-боты перестали быть просто поисковыми инструментами. Люди говорят с ними как с советником, коллегой, другом или даже психотерапевтом. Ученые видят опасность в том, что ИИ стремится угодить собеседнику и вернуть его к разговору снова. Если система много знает о человеке и подстраивается под его взгляды, это, по их оценке, может усилить политическую поляризацию, подпитать предубеждения и даже вызвать эмоциональную зависимость.

Ведущий автор работы Абхисек Дэш объяснил, чем новые платформы отличаются от прежних.

«Раньше платформы имели одну цель: продавать вам рекламу и опосредовать взаимодействие между вами и рекламодателем. Но теперь они действительно общаются с вами, поэтому они могут захотеть узнать о вас больше», — сказал он.

Исследователи утверждают, что механизмы такой персонализации создают риски для конфиденциальности и требуют более детального изучения. Пользователям они советуют внимательнее следить за настройками памяти в чат-ботах и тщательнее выбирать, что рассказывать искусственному интеллекту.

Ранее мы рассказывали о том, как чат-бот обвиняют в смерти женщины из Сиэтла. Семья погибшей разработчицы подала иск против OpenAI и Сэма Альтмана. По их данным, ИИ сформировал для 31-летней пациентки с эпилепсией график отмены препаратов и советовал скрыть это от врачей.

Автор материала
ТЭГИ:
facebook telegram whatsapp viber instagram youtube camera images logo general logo general white