Он вам не друг и не хранит секреты: четыре неприятных факта о ChatGPT

Искусственный интеллект развивается стремительными темпами, а ChatGPT для многих стал почти универсальным инструментом — от повседневных вопросов до рабочих задач. Однако из-за удобства пользователи нередко переоценивают его возможности и забывают о существующих ограничениях.

Как пишет издание BGR,

Склонность к неточностям.

ИИ способен уверенно формулировать ответы и поддерживать диалог так, будто полностью владеет темой. Тем не менее иногда он выдает неверную информацию. В профессиональной среде такие случаи называют «галлюцинациями» — ситуациями, когда система формирует правдоподобный, но фактически ошибочный ответ. Это происходит, если данных недостаточно или они неоднозначны. Поэтому важные сведения стоит перепроверять, а при необходимости запрашивать источники.

Отсутствие собственной личности.

ChatGPT создан для имитации естественного общения, из-за чего может казаться «живым» собеседником. Некоторые пользователи даже начинают воспринимать его как друга или эмоциональную поддержку. Однако важно помнить: это не человек. У него нет чувств, намерений или личных взглядов. Он лишь генерирует ответы на основе алгоритмов и обучающих данных.

Ограниченный контекст.

Современные версии модели способны учитывать содержание текущего диалога и поддерживать связность беседы. Но объем информации, который система может удерживать в рамках одной сессии, ограничен. Она не помнит разговоры многомесячной давности и не хранит личные сведения о пользователях в привычном человеческом понимании. Кроме того, существуют ограничения на обработку чувствительных персональных данных.

Вопросы приватности.

Эксперты советуют не передавать чат-ботам конфиденциальную информацию. Для улучшения качества работы системы могут анализироваться обезличенные данные — например, тексты запросов или загруженные файлы. Также в политике конфиденциальности указывается, что в предусмотренных законом случаях информация может быть предоставлена государственным органам по официальному запросу.

Напомним, "Курсор" писал о том что хакер под псевдонимом «Плиний Освободитель» создал модель искусственного интеллекта (ИИ), способную выполнять задачи в Даркнете, включая найм киллеров. Эксперимент, получивший название «Агент 47», стал шокирующим примером того, как передовые технологии могут быть использованы в криминальных целях.