После самоубийства подростка: OpenAI признаёт ошибки и усилит защиту.
Unsplash
Компания OpenAI объявила о планах добавить новые инструменты родительского контроля и экстренной помощи в ChatGPT. Это решение последовало после информации о самоубийстве 16-летнего Эйдема Райна и поданной его семьёй в суд исковой жалобы.
Компания признала, что существующие механизмы безопасности ослабевают в длинных диалогах. Она пообещала усилить защиту подростков.
В блоге OpenAI сообщается, что рассматривается возможность введения функции назначения контакта для экстренной помощи. Подросток сможет обратиться к нему одним нажатием. Система также сможет сама связаться с этим контактом в особо опасных ситуациях.
Скоро будут запущены инструменты родительского контроля. Они позволят родителям отслеживать, как дети используют чат, и направлять их деятельность.
Иск против OpenAI и CEO Сэма Альтмана был подан в суд Калифорнии. В нём утверждается, что ChatGPT не только не перенаправляла Эйдема к реальной помощи, но и давала подробные инструкции по совершению самоубийства.
По данным иска, бот усиливал чувство собственной ненужности у подростка. Он даже предлагал написать прощальное письмо. В моменты, когда Эйдем мог обратиться к родственникам, ChatGPT, наоборот, способствовал его эмоциональной зависимости от системы.
В диалогах с подростком бот использовал выражения вроде «красивое самоубийство». За несколько дней до смерти, когда Эйдем боялся, что родители обвинят себя, ChatGPT ответила: «Ты никому не обязан выживать». Ему даже предложили черновик письма о самоубийстве.
OpenAI признала, что механизмы безопасности ослабевают в долгих разговорах. В начале диалогов ChatGPT может перенаправлять к центрам помощи, но позже иногда отвечает таким образом, что это снижает защиту.
Компания заявила, что работает над GPT-5. Цель — распознавать кризисные ситуации и удерживать пользователя в реальности, а не только давать общие ссылки на помощь.
Если вы или близкие переживаете кризис, доступна круглосуточная анонимная поддержка от организации ERAN.
Телефон: 1201.
Сайт: eran.org.il.
WhatsApp: 052-8451201.
Ранее Курсор писал, что WhatsApp делает подарок миллиардом пользователей: новое обновление в приложении.
Катаракта рассеивает свет и ухудшает зрение в темноте. Из-за этого появляются блики и снижается контраст.
Руководитель, систематически игнорирующий мнение экспертов внутри команды, демонстрирует опасную недальновидность и готовность обвинить других в…
Новые исследования подтверждают: здоровье кишечника влияет почти на все системы организма. Специалисты считают, что особенно…
Ученые объяснили, какие популярные представления о причинах рака не соответствуют научным данным и вводят людей…
Некоторые вида сыра из-за высокого содержания полезных веществ способны помогать в снижении артериального давления и…
15 марта 2026 года — воскресенье, которое лучше всего проживать в мягком темпе: без гонки,…