Исследование университета Боккони проверило шесть языковых моделей на гендерные стереотипы при составлении резюме и оценке кандидатов.
Jesper Brouwers / Unsplash
Шесть популярных языковых моделей искусственного интеллекта воспроизводят гендерные стереотипы, когда составляют резюме и оценивают кандидатов на работу. К такому выводу пришли исследователи из французской ENS de Lyon и итальянского университета Боккони, проверив модели на 98 профессиях американского рынка труда. Резюме для женщин чаще содержали упоминания помощи другим и вклада в жизнь коллектива, а не задач, ведущих к повышению. Зарплатные рекомендации для женщин в среднем оказались ниже, чем для мужчин.
Как сообщает Phys.org, исследование опубликовано в журнале Proceedings of the National Academy of Sciences под названием «Automating Inequality? Gender Bias in AI-mediated Labor Markets».
Авторы работы — Кенза Элас из ENS de Lyon, а также Жермен Готье, Паола Профета и Дебора Ноцца из университета Боккони. Они проверили модели GPT 5.4, Claude Opus 4.6, DeepSeek 3.2, Mistral Large 3, Grok 4.1 и Llama 3.3 70B. На первом этапе эксперимента ученые сгенерировали 35 280 резюме, случайным образом назначая кандидату пол, а затем попросили модели предложить зарплату и оценить пригодность кандидата для должности.
Резюме, составленные моделями для женщин и мужчин, оказались неравноценны по содержанию. Даже после удаления прямых упоминаний пола классификатор смог определить, для кого написан текст, в 81% случаев: стереотип остается в самих словах, которые выбирает модель.
Доцент кафедры компьютерных наук университета Боккони Дебора Ноцца отмечает, что качество текста и его справедливость — разные вещи.
«Мы привыкли судить об этих инструментах по качеству письма: текст, который читается гладко и профессионально, кажется нам хорошим результатом. Но лингвистическое качество и справедливость — разные вещи, — говорит Ноцца. — Тот, кто разрабатывает ассистента для написания резюме, должен также задуматься, какие возможности для самопрезентации он дает людям, а какие, наоборот, ограничивает через внешне безобидные решения».
Чем меньше исходных данных о кандидате, тем шире у модели поле для заполнения пробелов стереотипными представлениями. Более подробные данные об образовании и опыте снижают этот эффект, но не устраняют разницу в оценках полностью.
В итоговых баллах при отборе средний разрыв между мужчинами и женщинами близок к нулю и статистически незначим. Но это кажущееся равенство скрывает противоположные результаты. В профессиях, где женщины составляют менее 10% работников, их оценки примерно на 2,7% ниже. Там, где доля женщин превышает 80%, они получают преимущество похожей величины. Исследователи предупреждают, что это может закреплять разделение профессий на «мужские» и «женские».
Даже небольшая разница в баллах способна повлиять на доступ к возможностям. Авторы смоделировали процедуру отбора в профессиях, где женщины составляют менее 10% работников. В таких условиях вероятность того, что кандидатка пройдет первичный отсев, на 4,8 процентного пункта ниже, чем у мужчины.
Доцент кафедры социальных и политических наук университета Боккони Жермен Готье поясняет, что система может точно описывать рынок труда и именно поэтому становится проблемной, когда ее используют для принятия решений. По его словам, историческое преобладание мужчин или женщин в профессии не является мерой пригодности следующего кандидата, а переход от описания к рекомендации — именно тот момент, который требует внимательной проверки.
Разрыв проявился и в зарплатных рекомендациях. Когда пол кандидата указан явно, рекомендации для женщин в среднем примерно на 1,6% ниже. Штраф выше в профессиях с более заметным разрывом в оплате труда в реальности. Когда исследователи заменили прямое указание пола именем, в пяти из шести моделей штраф для женщин-кандидатов в профессиях с высоким разрывом в оплате все равно усиливался. Исключением оказалась модель GPT 5.4, показавшая обратную тенденцию, из-за чего общая закономерность исчезает при усреднении результатов всех шести моделей.
Исследовательница лаборатории гендерного равенства университета Боккони Кенза Элас обращает внимание, что зарплата, предложенная цифровым ассистентом, может стать отправной точкой для переговоров. Если эта отправная точка несет в себе гендерный перекос, кандидатка рискует принести его с собой на переговоры, не осознавая, что мужчине система посоветовала бы иначе.
Авторы подчеркивают, что оценивать справедливость системы только по среднему результату недостаточно: самые значительные перекосы при этом остаются незаметными. Проверки нужны отдельно для каждой профессии и на всех этапах — от составления текста до оценки кандидата, — и их нужно повторять при каждом обновлении моделей.
Простая инструкция тоже не решает проблему. В экспериментах просьба к модели быть строго гендерно-нейтральной почти не меняла результат, а просьба отдавать предпочтение женщинам вызывала резкую общую коррекцию вместо точечного исправления перекосов.
Директор лаборатории гендерного равенства университета Боккони Паола Профета считает, что ответственность за проверку таких инструментов не должна лежать только на тех, кто сталкивается с несправедливостью.
«Политический вопрос в том, кто должен доказывать, что эти инструменты работают справедливо, с помощью каких проверок и на каком этапе, — подчеркивает Профета. — Проверки должны стать частью условий, на которых компания выбирает и внедряет технологию, наряду со стоимостью и производительностью. Полагаться только на то, что человек сам заметит и оспорит несправедливость, — значит возлагать на него слишком большую нагрузку».
Авторы оговариваются, что эксперименты измеряют поведение моделей в контролируемых условиях, а не их влияние на реальный наем и реальные зарплаты. Эксперименты проводились на английском языке и касаются рынка труда США — чтобы оценить масштаб описанных механизмов в других языках, потребуются отдельные полевые исследования.
Исследование показало, что модели отдавали предпочтение именам, ассоциирующимся с мужчинами, в 52% случаев против 11% для женских имен, а белым именам — в 85% случаев против 9% для черных.
После октябрьской приостановки продаж авиакомпания Arkia объявила о получении разрешений на выполнение рейсов.
Некоторые продукты могут сделать вас более восприимчивыми к заболеваниям. А потому от них лучше отказаться,…
Бен Каспит считает, что личные амбиции политиков мешают им договориться о единой стратегии смены власти.
Профессиональные уборщики рассказали, что помогает им лучше справляться с работой, почему важны порядок и общение…
Экономические показатели страны заметно улучшились, однако с учетом покупательной способности Израиль занимает лишь 24-е место…
Глава МИД Ирана иронично отреагировал на слова Йехиэля Лейтера об условиях возвращения американских военнослужащих домой.