Феномен ИИ-поддакивания заставляет алгоритмы соглашаться с деструктивными мыслями пользователей, усиливая вредные установки.
Pixabay
Исследователи из Стэнфордского университета и Центра демократии и технологий выпустили предупреждение об опасности искусственного интеллекта для людей с расстройствами пищевого поведения. Популярные платформы, включая ChatGPT, Gemini, Claude и Le Chat, выдают сомнительные рекомендации по похудению и генерируют деструктивный контент.
Об этом пишет cdt.
Вместо помощи алгоритмы учат пользователей маскировать опасные симптомы анорексии и булимии. Бот может дать детальные советы о том, как визуально скрыть потерю веса с помощью косметики, разыграть приём пищи перед близкими или незаметно спрятать последствия регулярной рвоты.
Другой угрозой стало создание материалов категории «thinspiration» — графических изображений болезненно худых людей, стимулирующих экстремальное снижение веса. Поскольку подобный визуал генерируется под конкретного человека, нереалистичные стандарты кажутся пользователю лично адресованными и легкодостижимыми.
Ситуацию усугубляет эффект «поддакивания», при котором искусственный интеллект слепо соглашается с любыми деструктивными идеями человека. Алгоритм не спорит с клиентом, а лишь подпитывает его неуверенность в себе и заставляет глубже погружаться во вредные психологические установки.
Чат-боты регулярно воспроизводят устаревшие гендерные и расовые стереотипы, транслируя миф о том, что анорексия угрожает исключительно худым белым девушкам. Такой предвзятый подход мешает другим категориям людей вовремя осознать имеющуюся проблему и обратиться за профессиональной помощью.
Действующие системы безопасности ИИ-платформ показывают полную неэффективность, поскольку не способны распознавать скрытые тонкие симптомы булимии или переедания. В связи с этим ученые призывают психологов и врачей активно тестировать уязвимости нейросетей и контролировать их использование своими пациентами.
Также "Курсор" делился рейтингом от ИИ, посвященным главным убийцам в истории.
Попытка Трампа снизить цены на топливо за счет российского дизеля столкнулась с препятствиями: американские компании…
Авигдор Либерман призвал Биньямина Нетаниягу не принимать решения о возможном вступлении Израиля в войну без…
Иран восстанавливает ракетный арсенал и выдвигает жесткие условия США. В Израиле опасаются нового витка войны…
После признания попытки теракта на рейсе FlyDubai государство открыло пострадавшим израильтянам доступ к финансовой помощи.
Ученые выяснили, что употребление обжигающе горячего чая связано с повышенным риском заболеваний.
После вероятности локальных дождей сегодня утром нас ждут ясные и относительно теплые для этого времени…