После самоубийства подростка: OpenAI признаёт ошибки и усилит защиту.
Unsplash
Компания OpenAI объявила о планах добавить новые инструменты родительского контроля и экстренной помощи в ChatGPT. Это решение последовало после информации о самоубийстве 16-летнего Эйдема Райна и поданной его семьёй в суд исковой жалобы.
Компания признала, что существующие механизмы безопасности ослабевают в длинных диалогах. Она пообещала усилить защиту подростков.
В блоге OpenAI сообщается, что рассматривается возможность введения функции назначения контакта для экстренной помощи. Подросток сможет обратиться к нему одним нажатием. Система также сможет сама связаться с этим контактом в особо опасных ситуациях.
Скоро будут запущены инструменты родительского контроля. Они позволят родителям отслеживать, как дети используют чат, и направлять их деятельность.
Иск против OpenAI и CEO Сэма Альтмана был подан в суд Калифорнии. В нём утверждается, что ChatGPT не только не перенаправляла Эйдема к реальной помощи, но и давала подробные инструкции по совершению самоубийства.
По данным иска, бот усиливал чувство собственной ненужности у подростка. Он даже предлагал написать прощальное письмо. В моменты, когда Эйдем мог обратиться к родственникам, ChatGPT, наоборот, способствовал его эмоциональной зависимости от системы.
В диалогах с подростком бот использовал выражения вроде «красивое самоубийство». За несколько дней до смерти, когда Эйдем боялся, что родители обвинят себя, ChatGPT ответила: «Ты никому не обязан выживать». Ему даже предложили черновик письма о самоубийстве.
OpenAI признала, что механизмы безопасности ослабевают в долгих разговорах. В начале диалогов ChatGPT может перенаправлять к центрам помощи, но позже иногда отвечает таким образом, что это снижает защиту.
Компания заявила, что работает над GPT-5. Цель — распознавать кризисные ситуации и удерживать пользователя в реальности, а не только давать общие ссылки на помощь.
Если вы или близкие переживаете кризис, доступна круглосуточная анонимная поддержка от организации ERAN.
Телефон: 1201.
Сайт: eran.org.il.
WhatsApp: 052-8451201.
Ранее Курсор писал, что WhatsApp делает подарок миллиардом пользователей: новое обновление в приложении.
Растительный рацион может быть не только сбалансированным, но и разнообразным
По расчетам, планета проживет недолго.
Эксперты рассказали, как чай и кофе воздействуют на организм.
Всего 14 дней регулярного употребления правильных каш могут заметно снизить нагрузку на печень, улучшить пищеварение…
30 августа 2025 года станет днём, когда многие знаки зодиака почувствуют, что нужно принимать важные…
Как меняется работа органов и систем организма, если им не хватает жидкости?