После самоубийства подростка: OpenAI признаёт ошибки и усилит защиту.
Unsplash
Компания OpenAI объявила о планах добавить новые инструменты родительского контроля и экстренной помощи в ChatGPT. Это решение последовало после информации о самоубийстве 16-летнего Эйдема Райна и поданной его семьёй в суд исковой жалобы.
Компания признала, что существующие механизмы безопасности ослабевают в длинных диалогах. Она пообещала усилить защиту подростков.
В блоге OpenAI сообщается, что рассматривается возможность введения функции назначения контакта для экстренной помощи. Подросток сможет обратиться к нему одним нажатием. Система также сможет сама связаться с этим контактом в особо опасных ситуациях.
Скоро будут запущены инструменты родительского контроля. Они позволят родителям отслеживать, как дети используют чат, и направлять их деятельность.
Иск против OpenAI и CEO Сэма Альтмана был подан в суд Калифорнии. В нём утверждается, что ChatGPT не только не перенаправляла Эйдема к реальной помощи, но и давала подробные инструкции по совершению самоубийства.
По данным иска, бот усиливал чувство собственной ненужности у подростка. Он даже предлагал написать прощальное письмо. В моменты, когда Эйдем мог обратиться к родственникам, ChatGPT, наоборот, способствовал его эмоциональной зависимости от системы.
В диалогах с подростком бот использовал выражения вроде «красивое самоубийство». За несколько дней до смерти, когда Эйдем боялся, что родители обвинят себя, ChatGPT ответила: «Ты никому не обязан выживать». Ему даже предложили черновик письма о самоубийстве.
OpenAI признала, что механизмы безопасности ослабевают в долгих разговорах. В начале диалогов ChatGPT может перенаправлять к центрам помощи, но позже иногда отвечает таким образом, что это снижает защиту.
Компания заявила, что работает над GPT-5. Цель — распознавать кризисные ситуации и удерживать пользователя в реальности, а не только давать общие ссылки на помощь.
Если вы или близкие переживаете кризис, доступна круглосуточная анонимная поддержка от организации ERAN.
Телефон: 1201.
Сайт: eran.org.il.
WhatsApp: 052-8451201.
Ранее Курсор писал, что WhatsApp делает подарок миллиардом пользователей: новое обновление в приложении.
Последствия поражения Украины могут иметь для США гораздо более высокую цену, чем затраты на поддержку…
Изменение вкусовых ощущений иногда становится одним из первых признаков нарушений в организме, которые долго остаются…
Мор Шамли три года пыталась справиться с последствиями убийства мужа, свидетелем которого стала во время…
Уход за кожей лица после 40 лет имеет свои особенности, говорят эксперты. И важно их…
Судья, у которой президент отказался принимать присягу, взяла под контроль Конституционный трибунал.
Врачи уверяют, что инфаркт далеко не всегда проявляется сильной болью в груди, а его первые…