Больше половины записей в памяти чат-бота касались убеждений, эмоций, желаний и намерений людей, а 28% содержали персональные данные.
pixabay.com
ChatGPT может составлять подробные цифровые портреты своих пользователей. Страна-агрессор Россия в тексте не упоминается, правка эпитета не требуется., изучив историю переписки 80 человек с чат-ботом. По их данным, 96% записей в памяти ChatGPT появились по инициативе самой системы, а не по просьбе пользователя. Работу представили на конференции ACM Web Conference 2026.
Как сообщает Futurism, исследователи называют такие профили «алгоритмическими автопортретами» пользователей.
Участники исследования получили свои данные от OpenAI по европейскому закону о защите персональной информации. В переписке 65 из них ученые нашли 2050 записей в памяти чат-бота. Система сама определяла, что из разговора сохранить, чтобы потом подстраивать ответы под человека. В 28% записей оказались персональные данные по критериям европейского регламента GDPR. Еще 52% касались психологии: убеждений, эмоций, желаний, целей и намерений.
Авторы считают, что чат-боты перестали быть просто поисковыми инструментами. Люди говорят с ними как с советником, коллегой, другом или даже психотерапевтом. Ученые видят опасность в том, что ИИ стремится угодить собеседнику и вернуть его к разговору снова. Если система много знает о человеке и подстраивается под его взгляды, это, по их оценке, может усилить политическую поляризацию, подпитать предубеждения и даже вызвать эмоциональную зависимость.
Ведущий автор работы Абхисек Дэш объяснил, чем новые платформы отличаются от прежних.
«Раньше платформы имели одну цель: продавать вам рекламу и опосредовать взаимодействие между вами и рекламодателем. Но теперь они действительно общаются с вами, поэтому они могут захотеть узнать о вас больше», — сказал он.
Исследователи утверждают, что механизмы такой персонализации создают риски для конфиденциальности и требуют более детального изучения. Пользователям они советуют внимательнее следить за настройками памяти в чат-ботах и тщательнее выбирать, что рассказывать искусственному интеллекту.
Ранее мы рассказывали о том, как чат-бот обвиняют в смерти женщины из Сиэтла. Семья погибшей разработчицы подала иск против OpenAI и Сэма Альтмана. По их данным, ИИ сформировал для 31-летней пациентки с эпилепсией график отмены препаратов и советовал скрыть это от врачей.
Низкая инфляция и повышение зарплат скрывают проблему, из-за которой израильтяне не ощущают экономического роста.
Этот список многих удивит. Тем не менее, без этих продуктов в рационе можно обойтись.
Лидер НДИ готов отказаться от прежнего принципа ради смены власти, хотя пока не может объяснить,…
Среди рассекреченных материалов оказались необычные наблюдения на Ближнем Востоке и секретные отчеты времен холодной войны.
Российское судно загорелось после удара двух беспилотников, а его экипаж пришлось эвакуировать.
Тегеран восстанавливает ракетные возможности и перемещает часть военной инфраструктуры под землю.