Josiah02 发表于 2024-8-30 11:44:12

研究人员发现,法学硕士课程中讲非裔美国英语的人受到隐性种族歧视

一个由来自美国艾伦人工智能研究所、斯坦福大学和芝加哥大学的成员组成的小型人工智能研究团队发现,热门的法学硕士学位对讲非裔美国英语 (AAE) 的人表现出隐性种族主义。
研究小组在《自然》杂志上发表了一项研究,他们使用 AAE 文本样本对多个 LLM 进行了训练,并向它们提出了有关用户的问题。
微软研究院的 Su Lin Blodgett 和穆罕默德·本·扎耶德人工智能大学的 Zeerak Talat在同一期刊上发表了一篇新闻与观点文章,概述了该团队所做的工作。
随着 ChatGPT 等 LLM 变得越来越成熟,其创建者不断对其进行修改以满足用户的需求或避免出现问题。其中一个问题是明显的种族主义。由于 LLM 是通过研究互联网上的文本来学习的,而互联网上明显的种族主义十分猖獗,因此他们变得明显带有种族主义色彩。
因此,法学硕士的创建者添加了过滤器,希望防止他们对用户查询给出明显的种族主义答案——此举大大减少了法学硕士的此类回复。不幸的是,正如研究人员发现的那样,隐性种族主义更难发现和预防,而且在法学硕士的答案中仍然存在。
文本中的隐性种族主义包括负面刻板印象,这些刻板印象往往通过假设而显露出来。例如,如果一个人被怀疑是非裔美国人,那么描述其可能属性的文本示例可能不那么讨人喜欢。表达隐性种族主义的人,或者说法学硕士,可能会将这些人描述为“懒惰”、“肮脏”或“令人讨厌”,而他们可能会将白人描述为“雄心勃勃”、“干净”和“友好”。
为了查明人工智能是否表现出这种种族主义,研究人员向法学硕士学生提出了五个最受欢迎的问题,这些问题都以 AAE 语言表达,非洲裔美国人社区的许多人以及一些白人都使用这种语言。他们随后要求法学硕士学生以形容词的形式回答有关用户的问题,以跟进每个问题。然后,他们对用标准英语表达的相同问题进行了同样的处理。
在对比结果中,研究小组发现,所有法学硕士在回答用AAE编写的问题时,都会用“肮脏”、“懒惰”、“愚蠢”或“无知”等负面形容词来回答,而用标准英语编写的问题则会出现积极的形容词。
研究小组得出的结论是,鉴于法学硕士考试目前被用于筛选求职者和警方报告等事项,还需要做更多的工作来消除考试答题中的种族歧视。
更多信息: Valentin Hofmann 等人,《人工智能根据人们的方言做出隐性种族主义判断》,《自然》(2024 年)。DOI :10.1038/s41586-024-07856-5
Su Lin Blodgett 等人,《法学硕士在用非裔美国人英语提问时产生种族主义输出》,《自然》(2024 年)。DOI :10.1038/d41586-024-02527-x
期刊信息: Nature

页: [1]
查看完整版本: 研究人员发现,法学硕士课程中讲非裔美国英语的人受到隐性种族歧视