Родители смогут контролировать детей в ChatGPT - подробности

OpenAI представила отдельную версию ChatGPT для пользователей младше 18 лет. Новый вариант чат-бота получил дополнительные механизмы защиты, в том числе инструменты родительского контроля и усиленные настройки безопасности.

Об этом сообщает новостное агентство Reuters.

Новая мера появилась на фоне усиливающегося давления на цифровые платформы из-за опасений по поводу возможных рисков, которые могут представлять ИИ-чат-боты.

В подростковой версии ChatGPT будут действовать дополнительные ограничения на обсуждение потенциально опасных тем, включая самоповреждение, насилие и расстройства пищевого поведения. Одновременно сервис получит образовательные функции, ориентированные на помощь школьникам в освоении материала, а не на выдачу готовых решений, сообщили в OpenAI.

Подростковый режим будет активироваться автоматически, если система определит возраст пользователя как менее 18 лет, либо если он сам укажет, что ему от 13 до 17 лет. Родителям предоставят возможность задавать «тихие часы», менять отдельные параметры безопасности и получать уведомления о разговорах подростка на чувствительные темы.

Таким образом, OpenAI присоединилась к числу крупных технологических компаний, включая Meta, которые ужесточают меры защиты несовершеннолетних. На усиление контроля влияют как растущие юридические риски, так и появляющиеся свидетельства возможного негативного воздействия ИИ-сервисов на психическое здоровье подростков.

Требования к технологическим компаниям становятся все жестче на фоне общемировой дискуссии о безопасности подростков в интернете. В ряде стран власти уже рассматривают или вводят ограничения на доступ несовершеннолетних к социальным сетям, опасаясь их негативного воздействия.

Для OpenAI ситуация особенно чувствительна из-за уже поданных исков, в которых компанию обвиняют в том, что ChatGPT мог нанести вред детям. Чат-боты с естественной манерой общения все чаще воспринимаются пользователями не просто как инструменты, а как собеседники, которым доверяют личные переживания и от которых ждут эмоциональной поддержки.

При этом специалисты отмечают, что использование автоматизированных сервисов вместо профессиональной помощи при проблемах с психическим здоровьем может быть связано с существенными рисками.

"Мы считаем, что искусственный интеллект должен расширять образовательные возможности, поэтому мы создали ChatGPT для подростков, чтобы поддержать их в те моменты вне класса, когда помощь не всегда доступна", — говорится в сообщении.

Ранее "Курсор" писал, что OpenAI запустила новую функцию Computer History, позволяющую ChatGPT и агенту Codex учитывать предыдущие действия пользователя на Mac и использовать эту информацию в качестве дополнительного контекста при выполнении задач.