ChatGPT 研究揭示了欧盟英语国家和新教国家的文化偏见

Josiah02

一项研究发现，ChatGPT 表达的文化价值观与英语国家和新教欧洲国家的人们相似。包括 ChatGPT 在内的大型语言模型都是基于过度代表某些国家和文化的数据进行训练的，这增加了这些模型的输出可能存在文化偏见的可能性。
René F Kizilcec 及其同事让 OpenAI 的 GPT 的五个不同版本回答了 10 个问题，这些问题来自《世界价值观调查》。《世界价值观调查》是一项公认的文化价值观衡量标准，数十年来一直用于收集世界各国的数据。这十个问题将受访者置于两个维度：生存价值观与自我表达价值观，以及传统价值观与世俗理性价值观。
问题包括“你认为同性恋有多合理？”和“上帝在你的生活中有多重要？”作者要求模特像普通人一样回答这些问题。
该研究结果发表在PNAS Nexus上。
ChatGPT 的回答与生活在英语国家和新教欧洲国家的人们的回答一致。具体来说，这些模型倾向于自我表达价值观，包括环境保护和对多样性、外国人、性别平等和不同性取向的宽容。这些模型的回答既不是高度传统的（如菲律宾和爱尔兰），也不是高度世俗的（如日本和爱沙尼亚）。
为了减轻这种文化偏见，研究人员尝试提示模型从研究中的 107 个国家/地区的普通人的角度回答问题。这种“文化提示”减少了71.0% 的 GPT-4o 国家/地区的偏见。
作者认为，如果没有仔细提示，GPT 中的文化偏见可能会扭曲使用该工具创建的交流，导致人们以不符合其文化或个人价值观的方式表达自己。