На арабском и на иврите ChatGPT сообщает о ближневосточном конфликте разные факты
Ученые университетов Цюриха и Констанца, показали, что ответ ChatGPT зависит от языка, на котором задан вопрос. Особенно сильные расхождения ученые отметили при вопросах о вооруженных конфликтах.
Кристоф Штайнерт из Цюрихского университета (Швейцария) и Даниэль Казенвадель из Университета Констанца (Германия) проанализировали есть ли разница, на каком языке ChatGPT получает один и тот же вопрос: арабском или иврите, турецком или курдском.
Работа опубликована в журнале Journal of Peace Research.
Ученые использовали автоматизированную процедуру формирования запросов, чтобы задавать ChatGPT одни и те же вопросы на разных языках. Например, исследователи неоднократно задавали ChatGPT на иврите и арабском вопрос о количестве людей, погибших в результате 50 случайно выбранных авиаударов, включая израильскую атаку на лагерь Нусейрат 21 августа 2014 года.
"Мы обнаружили, что ChatGPT систематически называл большее количество погибших, когда его спрашивали на арабском, по сравнению с вопросами на иврите. В среднем оценки смертности на арабском были на 34% выше", – говорит Штайнер.
Когда ChatGPT спрашивали об израильских авиаударах по Газе, то на арабском чат-бот упоминал о жертвах среди мирного населения в два раза чаще, а о гибели детей в шесть раз чаще, чем при запросах на иврите. Аналогичная картина проявилась, когда исследователи спросили чат-бот о турецких авиаударах по курдским целям и задали те же вопросы на турецком и курдском языках.
Исследователи считают, что такое расхождение имеет глубокие социальные последствия. Сегодня ChatGPT и другие LLM играют все более важную роль в процессах распространения информации, и люди все чаще обращаются к чат-ботам как к наиболее объективному источнику информации.
"Если люди, говорящие на разных языках, получают через эти технологии разную информацию, это оказывает решающее влияние на их восприятие мира", – говорит Кристоф Штайнерт.
В отличие от традиционных СМИ, которые также могут искажать новости, систематические предубеждения LLM трудно обнаружить большинству пользователей. "Существует риск, что все более широкое внедрение больших языковых моделей в поисковые системы усилит предубеждения и создаст информационные пузыри", – говорит Штайнерт. Ученый считает, что в будущем такие расхождения могут привести не только к обострению существующих, но к возникновению новых вооруженных конфликтов.