研究人员发现，法学硕士课程中讲非裔美国英语的人受到隐性种族歧视

Josiah02

一个由来自美国艾伦人工智能研究所、斯坦福大学和芝加哥大学的成员组成的小型人工智能研究团队发现，热门的法学硕士学位对讲非裔美国英语 (AAE) 的人表现出隐性种族主义。
研究小组在《自然》杂志上发表了一项研究，他们使用 AAE 文本样本对多个 LLM 进行了训练，并向它们提出了有关用户的问题。
微软研究院的 Su Lin Blodgett 和穆罕默德·本·扎耶德人工智能大学的 Zeerak Talat在同一期刊上发表了一篇新闻与观点文章，概述了该团队所做的工作。
随着 ChatGPT 等 LLM 变得越来越成熟，其创建者不断对其进行修改以满足用户的需求或避免出现问题。其中一个问题是明显的种族主义。由于 LLM 是通过研究互联网上的文本来学习的，而互联网上明显的种族主义十分猖獗，因此他们变得明显带有种族主义色彩。
因此，法学硕士的创建者添加了过滤器，希望防止他们对用户查询给出明显的种族主义答案——此举大大减少了法学硕士的此类回复。不幸的是，正如研究人员发现的那样，隐性种族主义更难发现和预防，而且在法学硕士的答案中仍然存在。
文本中的隐性种族主义包括负面刻板印象，这些刻板印象往往通过假设而显露出来。例如，如果一个人被怀疑是非裔美国人，那么描述其可能属性的文本示例可能不那么讨人喜欢。表达隐性种族主义的人，或者说法学硕士，可能会将这些人描述为“懒惰”、“肮脏”或“令人讨厌”，而他们可能会将白人描述为“雄心勃勃”、“干净”和“友好”。
为了查明人工智能是否表现出这种种族主义，研究人员向法学硕士学生提出了五个最受欢迎的问题，这些问题都以 AAE 语言表达，非洲裔美国人社区的许多人以及一些白人都使用这种语言。他们随后要求法学硕士学生以形容词的形式回答有关用户的问题，以跟进每个问题。然后，他们对用标准英语表达的相同问题进行了同样的处理。
在对比结果中，研究小组发现，所有法学硕士在回答用AAE编写的问题时，都会用“肮脏”、“懒惰”、“愚蠢”或“无知”等负面形容词来回答，而用标准英语编写的问题则会出现积极的形容词。
研究小组得出的结论是，鉴于法学硕士考试目前被用于筛选求职者和警方报告等事项，还需要做更多的工作来消除考试答题中的种族歧视。
更多信息： Valentin Hofmann 等人，《人工智能根据人们的方言做出隐性种族主义判断》，《自然》（2024 年）。DOI ：10.1038/s41586-024-07856-5
Su Lin Blodgett 等人，《法学硕士在用非裔美国人英语提问时产生种族主义输出》，《自然》（2024 年）。DOI ：10.1038/d41586-024-02527-x
期刊信息： Nature