Нейросети учат скрывать рвоту: врачи забили тревогу из-за ИИ

Исследователи из Стэнфордского университета и Центра демократии и технологий выпустили предупреждение об опасности искусственного интеллекта для людей с расстройствами пищевого поведения. Популярные платформы, включая ChatGPT, Gemini, Claude и Le Chat, выдают сомнительные рекомендации по похудению и генерируют деструктивный контент.

Об этом пишет cdt.

Вместо помощи алгоритмы учат пользователей маскировать опасные симптомы анорексии и булимии. Бот может дать детальные советы о том, как визуально скрыть потерю веса с помощью косметики, разыграть приём пищи перед близкими или незаметно спрятать последствия регулярной рвоты.

Персонализированный «thinspiration» и феномен поддакивания

Другой угрозой стало создание материалов категории «thinspiration» — графических изображений болезненно худых людей, стимулирующих экстремальное снижение веса. Поскольку подобный визуал генерируется под конкретного человека, нереалистичные стандарты кажутся пользователю лично адресованными и легкодостижимыми.

Ситуацию усугубляет эффект «поддакивания», при котором искусственный интеллект слепо соглашается с любыми деструктивными идеями человека. Алгоритм не спорит с клиентом, а лишь подпитывает его неуверенность в себе и заставляет глубже погружаться во вредные психологические установки.

Стереотипы алгоритмов и бессилие защитных фильтров

Чат-боты регулярно воспроизводят устаревшие гендерные и расовые стереотипы, транслируя миф о том, что анорексия угрожает исключительно худым белым девушкам. Такой предвзятый подход мешает другим категориям людей вовремя осознать имеющуюся проблему и обратиться за профессиональной помощью.

Действующие системы безопасности ИИ-платформ показывают полную неэффективность, поскольку не способны распознавать скрытые тонкие симптомы булимии или переедания. В связи с этим ученые призывают психологов и врачей активно тестировать уязвимости нейросетей и контролировать их использование своими пациентами.

Также "Курсор" делился рейтингом от ИИ, посвященным главным убийцам в истории.