ChatGPT начал следить за пользователями - кому стоит насторожиться

Компания OpenAI представила функцию Computer History, благодаря которой ChatGPT и агент Codex могут учитывать историю действий пользователя на Mac, используя ее как дополнительный контекст при работе.

Об этом сообщает портал Cnet.

Функция активируется исключительно по желанию пользователя. После включения она получает возможность анализировать его действия в браузере и приложениях, восстанавливать последовательность выполненных операций и определять, над какими задачами он работал.

На компьютерах Mac инструмент доступен подписчикам Pro, Business и Enterprise. При этом в Европейской экономической зоне, Швейцарии и Великобритании его запуск пока не состоялся. Для корпоративных тарифов Business и Enterprise предусмотрена дополнительная настройка: администратор может решать, разрешать ли сотрудникам самостоятельно активировать Computer History.

При этом контроль над функцией остается у пользователя ChatGPT: он самостоятельно выбирает, какие приложения и сайты могут сохраняться в истории. При необходимости сбор данных можно поставить на паузу, а ранее сохраненную информацию — открыть для просмотра или полностью удалить.

В отличие от некоторых инструментов, предназначенных для постоянной фиксации действий, Computer History не делает снимки экрана и не записывает звук пользователя. OpenAI использует другой подход — функция обращается к API доступности macOS, получая только те сведения, доступ к которым операционная система предоставляет приложениям с соответствующими разрешениями.

Система может учитывать нажатия кнопок мыши, ввод текста, сочетания клавиш, переходы между приложениями и другие элементы взаимодействия с компьютером. Таким образом, технология ориентирована прежде всего на понимание действий пользователя, а не на постоянную фиксацию того, что отображается на его экране.

Computer History периодически обобщает активность пользователя, формируя краткое описание его действий, а не сохраняя весь просмотренный контент. Например, система может определить, с каким файлом и в каком приложении велась работа, но не обязана копировать содержимое документа.

При этом, если данные из файла позже используются в чате, ChatGPT способен связать их с предыдущей активностью. Это позволяет учитывать контекст работы пользователя за пределами самого чат-бота и делает взаимодействие более персонализированным.

Computer History способна анализировать повторяющиеся действия пользователя и на их основе создавать задачи для автоматизации. Если система замечает регулярно выполняемую последовательность операций, она может превратить ее в отдельный навык.

Таким образом, функция служит не только для сохранения контекста, но и помогает распознавать привычные рабочие процессы и автоматизировать рутинные действия.

Хотя Computer History не ведет непрерывную запись экрана, функция все равно способна собирать большой объем данных о действиях пользователя. Сведения о нажатиях клавиш, переходах между приложениями и последовательности операций позволяют составить представление о его работе, интересах и привычках.

Поэтому отказ от скриншотов не исключает потенциальных рисков для конфиденциальности.

Ранее "Курсор" писал, что по мере того как сервисы на основе ИИ, в том числе ChatGPT, входят в повседневную жизнь, эксперты по цифровой безопасности призывают пользователей внимательнее относиться к информации, которую они передают таким системам.