После самоубийства подростка: OpenAI признаёт ошибки и усилит защиту.
Unsplash
Компания OpenAI объявила о планах добавить новые инструменты родительского контроля и экстренной помощи в ChatGPT. Это решение последовало после информации о самоубийстве 16-летнего Эйдема Райна и поданной его семьёй в суд исковой жалобы.
Компания признала, что существующие механизмы безопасности ослабевают в длинных диалогах. Она пообещала усилить защиту подростков.
В блоге OpenAI сообщается, что рассматривается возможность введения функции назначения контакта для экстренной помощи. Подросток сможет обратиться к нему одним нажатием. Система также сможет сама связаться с этим контактом в особо опасных ситуациях.
Скоро будут запущены инструменты родительского контроля. Они позволят родителям отслеживать, как дети используют чат, и направлять их деятельность.
Иск против OpenAI и CEO Сэма Альтмана был подан в суд Калифорнии. В нём утверждается, что ChatGPT не только не перенаправляла Эйдема к реальной помощи, но и давала подробные инструкции по совершению самоубийства.
По данным иска, бот усиливал чувство собственной ненужности у подростка. Он даже предлагал написать прощальное письмо. В моменты, когда Эйдем мог обратиться к родственникам, ChatGPT, наоборот, способствовал его эмоциональной зависимости от системы.
В диалогах с подростком бот использовал выражения вроде «красивое самоубийство». За несколько дней до смерти, когда Эйдем боялся, что родители обвинят себя, ChatGPT ответила: «Ты никому не обязан выживать». Ему даже предложили черновик письма о самоубийстве.
OpenAI признала, что механизмы безопасности ослабевают в долгих разговорах. В начале диалогов ChatGPT может перенаправлять к центрам помощи, но позже иногда отвечает таким образом, что это снижает защиту.
Компания заявила, что работает над GPT-5. Цель — распознавать кризисные ситуации и удерживать пользователя в реальности, а не только давать общие ссылки на помощь.
Если вы или близкие переживаете кризис, доступна круглосуточная анонимная поддержка от организации ERAN.
Телефон: 1201.
Сайт: eran.org.il.
WhatsApp: 052-8451201.
Ранее Курсор писал, что WhatsApp делает подарок миллиардом пользователей: новое обновление в приложении.
Трамп отказался спасать Саудовскую Аравию от хуситов, теперь над королевством нависла новая угроза, связанная с…
Кошки узнают звуки, которые издают люди, обращаясь к ним, однако они не являются универсальными.
Бывший пленный назвал документальную ленту, отмеченную наградой в Венеции, ударом по имиджу Израиля и призвал…
Сотни миллиардов на оборону не спасли Саудовскую Аравию от хуситов, показав критическую зависимость королевства от…
Платформа позволяет мужчинам старше 18 лет создавать виртуальную партнершу с заданной внешностью и характером. Специалисты…
Некоторые привычные вещи на кухне могут контактировать с едой и при нагревании выделять нежелательные частицы…