ChatGPT и война в Израиле: чат-бот выдает разные данные о Газе на иврите и арабском

Исследователи из университетов Цюриха и Констанца выяснили, что ответы ChatGPT могут значительно варьироваться в зависимости от языка запроса, особенно при обсуждении вооруженных конфликтов.

Работа ученых Кристофа Штайнерта и Даниэля Казенваделя, опубликованная в Journal of Peace Research, подчеркивает потенциальные риски таких расхождений.

Для исследования использовались автоматизированные запросы на разных языках, включая арабский, иврит, турецкий и курдский. Один из экспериментов касался подсчета погибших в результате 50 случайных авиаударов, включая израильскую атаку на лагерь Нусейрат 21 августа 2014 года.

"На арабском языке ChatGPT систематически называл большее число погибших, чем на иврите. Разница составляла в среднем 34%", – отметил Штайнерт.

Также бот в два раза чаще упоминал мирных жителей и в шесть раз чаще детей в арабских запросах, чем в ивритских. Похожая картина наблюдалась при вопросах о турецких ударах по курдским целям: ответы на курдском языке также содержали больше информации о жертвах.

Авторы работы считают, что такие расхождения могут иметь серьезные социальные последствия. Большие языковые модели (LLM), включая ChatGPT, становятся важным источником информации для миллионов пользователей. Однако, по словам Штайнерта, если носители разных языков получают несопоставимые данные, это может влиять на их мировоззрение.

В отличие от традиционных СМИ, предвзятость языковых моделей сложно заметить, особенно для обычных пользователей, предупреждают ученые. Они подчеркивают, что такие искажения могут усилить существующие информационные барьеры и даже способствовать возникновению новых конфликтов. Внедрение LLM в поисковые системы лишь усугубляет проблему, создавая риск формирования информационных пузырей.

Ранее "Курсор" сообщал, что Израиль подписал первую международную конвенцию по ИИ.