现实世界的化学家比生成式人工智能图像所显示的更加多样化

Josiah02

现在，问孩子们“科学家长什么样？”，他们得到的女性和有色人种的插图比几十年前更多。但生成式人工智能 (AI) 工具是否也能描绘科学家之间的多样性？《化学教育杂志》上的研究人员促使人工智能图像生成器为化学家绘制肖像。他们发现，这些集合中没有一个能准确地代表当今真正的化学家中的性别、种族或残疾多样性。
生成式人工智能每天都会生成数百万张图像。这些工具的输出质量取决于其算法和用于训练大型语言模型的初始图像。最近，研究人员发现，人工智能图像生成器可能会生成不代表现实的内容——超出几乎不可能的身体比例。
例如，当一个团队使用生成式人工智能工具生成各种职业的人像时，有些工具会延续性别和种族刻板印象，而不是重现这些工人的实际人口统计数据。因此，由 Valeria Stepanova 领导的团队（成员包括 Meagan Kaufenberg-Lashua、Joseph West 和 Jaime Kelly）希望了解人工智能生成的化学家肖像在多大程度上能够反映当前的人口趋势。
研究人员让四台人工智能图像生成器生成工业或学术领域化学家的现代肖像照。然后，在本科生的帮助下，该团队尽可能地评估了这 200 张图片中的性别和种族分布。
整个 AI 集合的男女比例与美国国家科学基金会 (NSF) 2021 年人口统计调查的男女比例相似。研究人员还发现，生成的大多数图像看起来都是白人，他们说这代表了美国化学领域。
但各个 AI 模型产生的结果存在相当大的差异。一个工具生成的女性图像比 NSF 数据所称的代表性图像要多，而另一个工具生成的图像只包含男性。此外，两个模型几乎没有生成有色人种，而一个模型主要生成有色人种的图像。令研究人员惊讶的是，没有一个模型生成有明显残疾的化学家的图像。
总体而言，研究人员表示，这一演示说明了不同的图像生成 AI 如何放大有关化学家多样性的错误信息。他们在研究的最后提出了这样一个问题：“人类会控制 AI 生成的知识吗？还是 AI 会影响一代又一代人的知识？”