AI 行业正在影响世界。Mozilla 顾问 Abeba Birhane 正在挑战其核心价值观
随着科技公司争相利用越来越大的互联网数据集来改进其人工智能系统，“扩大规模”成为人工智能行业的流行语。对于 Mozilla 的 Abeba Birhane 来说，这也是一个危险信号，她是一位人工智能专家，多年来一直在挑战其领域的价值观和实践以及它对世界的影响。
她的最新研究发现，用于训练流行的人工智能图像生成工具的在线数据的扩大，不成比例地导致了种族主义的出现，尤其是针对黑人男性。
Birhane 是 Mozilla 基金会的 AI 问责高级顾问，Mozilla 基金会是运营 Firefox 网络浏览器的免费软件公司的非营利母组织。她在埃塞俄比亚长大，现居爱尔兰，也是都柏林圣三一学院的兼职助理教授。
她接受美联社采访的内容经过了编辑，以确保简洁和清晰。
问：您是如何进入人工智能领域的？
答：我受过认知科学家的培训。认知科学没有独立的部门，无论你在哪里学习它。所以我学习的是计算机科学。我被安排在一个满是机器学习者的实验室里。他们做了很多了不起的事情，却没有人关注数据。我觉得这很有趣，也很有趣，因为我认为数据是模型成功的最重要组成部分之一。但我觉得很奇怪，人们没有花太多的注意力或时间去问“我的数据集里有什么？”这就是我对这个领域感兴趣的原因。最后，我开始对大规模数据集进行审计。
问：您能谈谈您在人工智能伦理基础方面的工作吗？
答：每个人对机器学习都有自己的看法。机器学习者（来自人工智能社区的人）会告诉你，机器学习没有价值。它只是数学，是客观的、中立的等等。而社会科学学者会告诉你，就像任何技术一样，机器学习会编码推动它发展的人的价值观。所以我们所做的就是系统地研究一百篇最具影响力的机器学习论文，以真正找出这个领域关心的是什么，并以非常严谨的方式进行研究。
答：其中一个价值观就是扩大规模？
问：规模被认为是成功的圣杯。来自 DeepMind、谷歌和 Meta 等大公司的研究人员声称，规模可以战胜噪音，规模可以消除噪音。这个想法是，随着规模的扩大，数据集中的所有内容都应该趋于平衡。最终应该得到类似正态分布或更接近基本事实的结果。这就是这个想法。
问：但是您的研究已经探索了扩大规模如何导致危害。其中有哪些危害呢？
答：至少在涉及仇恨内容或毒性等方面时，扩展这些数据集也会扩展它们所包含的问题。更具体地说，在我们的研究中，扩展数据集也会扩展数据集中的仇恨内容。我们测量了两个数据集中的仇恨内容数量。随着数据集从4 亿扩展到 20 亿，仇恨内容、针对性内容和攻击性内容有所增加。这是一个非常具有决定性的发现，表明扩展定律在训练数据方面并不适用。（在另一篇论文中）我们发现，肤色较深的女性，尤其是男性，被贴上可疑人员或罪犯标签的几率要高得多。
问：您对人工智能行业实现您所提出的改变有多大希望或信心？
答：这些不仅仅是纯粹的数学和技术输出。它们也是塑造社会、影响社会的工具。我们的建议是，我们还要激励和关注正义、公平、隐私等价值观。我诚实的回答是，我对行业会采纳我们的建议毫无信心。他们从未采纳过任何这样的建议，这些建议实际上鼓励他们认真对待这些社会问题。他们可能永远不会。企业和大公司往往会在法律要求时采取行动。我们需要一个非常强大、可执行的法规。他们也会对公众的愤怒和公众意识做出反应。如果到了声誉受损的地步，他们往往会做出改变。
页:
[1]