После самоубийства подростка: OpenAI признаёт ошибки и усилит защиту.
Unsplash
Компания OpenAI объявила о планах добавить новые инструменты родительского контроля и экстренной помощи в ChatGPT. Это решение последовало после информации о самоубийстве 16-летнего Эйдема Райна и поданной его семьёй в суд исковой жалобы.
Компания признала, что существующие механизмы безопасности ослабевают в длинных диалогах. Она пообещала усилить защиту подростков.
В блоге OpenAI сообщается, что рассматривается возможность введения функции назначения контакта для экстренной помощи. Подросток сможет обратиться к нему одним нажатием. Система также сможет сама связаться с этим контактом в особо опасных ситуациях.
Скоро будут запущены инструменты родительского контроля. Они позволят родителям отслеживать, как дети используют чат, и направлять их деятельность.
Иск против OpenAI и CEO Сэма Альтмана был подан в суд Калифорнии. В нём утверждается, что ChatGPT не только не перенаправляла Эйдема к реальной помощи, но и давала подробные инструкции по совершению самоубийства.
По данным иска, бот усиливал чувство собственной ненужности у подростка. Он даже предлагал написать прощальное письмо. В моменты, когда Эйдем мог обратиться к родственникам, ChatGPT, наоборот, способствовал его эмоциональной зависимости от системы.
В диалогах с подростком бот использовал выражения вроде «красивое самоубийство». За несколько дней до смерти, когда Эйдем боялся, что родители обвинят себя, ChatGPT ответила: «Ты никому не обязан выживать». Ему даже предложили черновик письма о самоубийстве.
OpenAI признала, что механизмы безопасности ослабевают в долгих разговорах. В начале диалогов ChatGPT может перенаправлять к центрам помощи, но позже иногда отвечает таким образом, что это снижает защиту.
Компания заявила, что работает над GPT-5. Цель — распознавать кризисные ситуации и удерживать пользователя в реальности, а не только давать общие ссылки на помощь.
Если вы или близкие переживаете кризис, доступна круглосуточная анонимная поддержка от организации ERAN.
Телефон: 1201.
Сайт: eran.org.il.
WhatsApp: 052-8451201.
Ранее Курсор писал, что WhatsApp делает подарок миллиардом пользователей: новое обновление в приложении.
Даже безобидные на первый взгляд занятия вечером могут повлиять на продолжительность и глубину сна.
Ученые детально изучили организм самого долгоживущего позвоночного существа на планете. Полученные данные могут полностью изменить…
15 июня 2026 года по картам Таро может стать днем, когда привычные обстоятельства начнут раскрываться…
Согласно ожиданиям синоптиков, понедельник пройдет при переменной облачности, слабом ветре и стабильном атмосферном давлении.
Биньямин Нетаниягу во время разговора с Дональдом Трампом принял решение не уступать ему в вопросах,…
Бодрящий напиток продолжает атаковать нервную систему даже после вашего засыпания. Коварное вещество заставляет мозг работать…