Один из вопросов к ИИ касался подсчета погибших в результате атаки на лагерь Нусейрат.
Pixabay
Исследователи из университетов Цюриха и Констанца выяснили, что ответы ChatGPT могут значительно варьироваться в зависимости от языка запроса, особенно при обсуждении вооруженных конфликтов.
Работа ученых Кристофа Штайнерта и Даниэля Казенваделя, опубликованная в Journal of Peace Research, подчеркивает потенциальные риски таких расхождений.
Для исследования использовались автоматизированные запросы на разных языках, включая арабский, иврит, турецкий и курдский. Один из экспериментов касался подсчета погибших в результате 50 случайных авиаударов, включая израильскую атаку на лагерь Нусейрат 21 августа 2014 года.
"На арабском языке ChatGPT систематически называл большее число погибших, чем на иврите. Разница составляла в среднем 34%", – отметил Штайнерт.
Также бот в два раза чаще упоминал мирных жителей и в шесть раз чаще детей в арабских запросах, чем в ивритских. Похожая картина наблюдалась при вопросах о турецких ударах по курдским целям: ответы на курдском языке также содержали больше информации о жертвах.
Авторы работы считают, что такие расхождения могут иметь серьезные социальные последствия. Большие языковые модели (LLM), включая ChatGPT, становятся важным источником информации для миллионов пользователей. Однако, по словам Штайнерта, если носители разных языков получают несопоставимые данные, это может влиять на их мировоззрение.
В отличие от традиционных СМИ, предвзятость языковых моделей сложно заметить, особенно для обычных пользователей, предупреждают ученые. Они подчеркивают, что такие искажения могут усилить существующие информационные барьеры и даже способствовать возникновению новых конфликтов. Внедрение LLM в поисковые системы лишь усугубляет проблему, создавая риск формирования информационных пузырей.
Ранее "Курсор" сообщал, что Израиль подписал первую международную конвенцию по ИИ.
Израильские компании уже начали переговоры о праве представлять популярный бренд, чья бизнес-модель основана на сочетании…
Фрукты невероятно полезны и обязательно должны присутствовать в ежедневном рационе. Но некоторые плоды стоит употреблять…
Опросы фиксируют рост недовольства властью и экономикой, ставя Эрдогана перед самым серьезным кризисом за годы…
Статистика января подтверждает тренд на ослабление позиций местных авиакомпаний в пользу зарубежных гигантов и бюджетных…
Тепло задерживается дольше обычного, а возвращение дождей и зимней погоды ожидается лишь в середине и…
Неопознанный аппарат не оставил теплового следа или звукового сигнала, что противоречит физическим принципам гиперзвукового движения…