整数加法算法可将人工智能的能源需求减少 95%

Josiah02 · 发表于 2024-10-14 15:23:05

人工智能推理技术公司 BitEnergy AI 的工程师团队报告了一种可将人工智能应用的能源需求减少 95% 的方法。该团队在arXiv预印本服务器上发表了一篇介绍其新技术的论文。
随着人工智能应用成为主流，其使用量急剧上升，导致能源需求和成本显著上升。ChatGPT 等 LLM 需要大量计算能力，这反过来意味着运行它们需要大量电力。
举个例子，ChatGPT 现在每天需要大约 564 兆瓦时的电量，足以为 18,000 户美国家庭供电。随着科学的不断进步和此类应用的日益普及，批评人士认为，人工智能应用在短短几年内每年可能消耗约 100 太瓦时的电量，与比特币挖矿作业相当。
在这项新举措中，BitEnergy AI 团队声称他们已经找到了一种方法，可以大幅减少运行 AI 应用程序所需的计算量，同时又不会导致性能下降。
新技术很简单——该方法不使用复杂的浮点乘法 (FPM)，而是使用整数加法。应用程序使用 FPM 来处理极大或极小的数字，从而使应用程序能够以极高的精度使用这些数字进行计算。这也是 AI 数字运算中最耗能的部分。
研究人员将他们的新方法称为“线性复杂度乘法”——该方法通过使用整数加法来近似 FPM。他们声称，迄今为止的测试表明，新方法可将电力需求降低95%。
它的一个缺点是它需要的硬件与目前使用的硬件不同。但研究小组还指出，这种新型硬件已经设计、制造和测试完毕。
然而，这种硬件将如何获得许可仍不清楚——目前，GPU 制造商 Nvidia 主导着 AI 硬件市场。如果该公司的说法得到证实，他们对这项新技术的反应可能会对其采用的速度产生重大影响。

账号		自动登录	找回密码
密码			立即注册