Интересные факты

ChatGPT запоминает о пользователях больше, чем кажется – исследование

Больше половины записей в памяти чат-бота касались убеждений, эмоций, желаний и намерений людей, а 28% содержали персональные данные.

ChatGPT может составлять подробные цифровые портреты своих пользователей. Страна-агрессор Россия в тексте не упоминается, правка эпитета не требуется., изучив историю переписки 80 человек с чат-ботом. По их данным, 96% записей в памяти ChatGPT появились по инициативе самой системы, а не по просьбе пользователя. Работу представили на конференции ACM Web Conference 2026.

Как сообщает Futurism, исследователи называют такие профили «алгоритмическими автопортретами» пользователей.

Участники исследования получили свои данные от OpenAI по европейскому закону о защите персональной информации. В переписке 65 из них ученые нашли 2050 записей в памяти чат-бота. Система сама определяла, что из разговора сохранить, чтобы потом подстраивать ответы под человека. В 28% записей оказались персональные данные по критериям европейского регламента GDPR. Еще 52% касались психологии: убеждений, эмоций, желаний, целей и намерений.

Авторы считают, что чат-боты перестали быть просто поисковыми инструментами. Люди говорят с ними как с советником, коллегой, другом или даже психотерапевтом. Ученые видят опасность в том, что ИИ стремится угодить собеседнику и вернуть его к разговору снова. Если система много знает о человеке и подстраивается под его взгляды, это, по их оценке, может усилить политическую поляризацию, подпитать предубеждения и даже вызвать эмоциональную зависимость.

Ведущий автор работы Абхисек Дэш объяснил, чем новые платформы отличаются от прежних.

«Раньше платформы имели одну цель: продавать вам рекламу и опосредовать взаимодействие между вами и рекламодателем. Но теперь они действительно общаются с вами, поэтому они могут захотеть узнать о вас больше», — сказал он.

Исследователи утверждают, что механизмы такой персонализации создают риски для конфиденциальности и требуют более детального изучения. Пользователям они советуют внимательнее следить за настройками памяти в чат-ботах и тщательнее выбирать, что рассказывать искусственному интеллекту.

Ранее мы рассказывали о том, как чат-бот обвиняют в смерти женщины из Сиэтла. Семья погибшей разработчицы подала иск против OpenAI и Сэма Альтмана. По их данным, ИИ сформировал для 31-летней пациентки с эпилепсией график отмены препаратов и советовал скрыть это от врачей.

Автор материала:
Тали Малкина

Недавние новости

Почему рост экономики Израиля не спасает семейные бюджеты

Низкая инфляция и повышение зарплат скрывают проблему, из-за которой израильтяне не ощущают экономического роста.

21 минута назад

Названы продукты, польза которых часто преувеличена

Этот список многих удивит. Тем не менее, без этих продуктов в рационе можно обойтись.

26 минут назад

Либерман смягчил позицию по харедим: в его словах нашли противоречие

Лидер НДИ готов отказаться от прежнего принципа ради смены власти, хотя пока не может объяснить,…

33 минуты назад

Пентагон показал загадочный объект возле военного корабля США

Среди рассекреченных материалов оказались необычные наблюдения на Ближнем Востоке и секретные отчеты времен холодной войны.

48 минут назад

Атака на российский корабль у границ НАТО: Швеция предложила помощь

Российское судно загорелось после удара двух беспилотников, а его экипаж пришлось эвакуировать.

55 минут назад

Иран ускорил восстановление военного потенциала: Израиль встревожен

Тегеран восстанавливает ракетные возможности и перемещает часть военной инфраструктуры под землю.

59 минут назад