|
|
光纤可以在长距离内高速传输语音和数据，IBM 研究科学家正在将这种速度和容量带入以前从未涉足的领域：数据中心内部和电路板，它们将有助于加速生成式 AI 计算。
IBM 研究部门的科学家宣布了芯片组装和封装领域的一系列新进展，称为共封装光学器件，该器件有望通过将光链路连接引入用于训练和部署大型语言模型的设备内部和数据中心内来提高能源效率并增加带宽。该研究成果发表在arXiv预印本服务器上。
这种新工艺有望将芯片边缘可连接的光纤数量（即所谓的“前沿密度”）提高六倍。随着人工智能对带宽的需求越来越大，这项创新将利用世界上第一个成功的聚合物光波导，将光学速度和带宽带到芯片边缘。
早期结果表明，从传统电互连转换为共封装光学器件将大幅降低训练 AI 模型的能源成本、加快模型训练速度，并大幅提高数据中心的能源效率。
当今先进的芯片和芯片封装技术通常使用电信号来驱动微电子器件中的晶体管，这些晶体管为手机、电脑以及我们所做的几乎所有事情提供动力。而晶体管在过去几十年中已经缩小了许多倍，从而能够在给定空间内集成更多功能。但即使是性能最强大的半导体元件，其速度也只能与它们之间的连接速度一样快。
这些连接使我们能够在日常生活中无缝使用电子设备，例如当我们驾驶汽车时，从座椅到轮胎，几乎所有系统都包含芯片。IBM 研究工程师、芯片和先进封装领域的杰出工程师 John Knickerbocker 表示：“甚至你的冰箱里也有电子元件，可以帮助一切正常运行。”
不过，Knickerbocker 和他的团队正在从更小的方面着眼。由于光纤连接器成本更低、能效更高，它们成为改善数据中心芯片间和设备间通信性能的绝佳选择，而数据中心的生成式 AI 计算对带宽的要求越来越高。
“大型语言模型让人工智能在当今科技行业大受欢迎，”尼克博克说。“而法学硕士（以及更广泛的生成式人工智能）的增长需要芯片和数据中心之间高速连接的指数级增长。”
虽然光缆可以传输数据进出数据中心，但内部情况则完全不同。即使是当今最先进的芯片，也仍然通过传输电信号的铜线进行通信。从芯片边缘到电路板，再从电路板通过数英里的光缆，再回到远程数据中心的另一个模块和另一个芯片，这需要相当多的能量。
不管您是在传输数据还是语音通话，在所有这些连接点之间无缝发送信号都会消耗能源。服务器内的低带宽有线连接也会降低 GPU 加速器的速度，使其在等待数据时处于空闲状态。
电信号使用电子来提供电力，并在设备之间传递信号。而光学则使用光来传输数据，这种技术已用于通信技术数十年。光纤电缆细如发丝，有时长达数千英里，每秒可以传输数百兆兆位的数据。
光纤被捆扎在一起并绝缘成电缆，铺设在海底，承载着几乎所有跨洲流动的全球商业和通信流量。
Knickerbocker 和他的同事发现，将光连接的能量引入电路板并一直到芯片，与电连接相比，可以减少 80% 以上的能耗，从每比特 5 皮焦耳减少到不到 1 皮焦耳。对于数千个芯片和数百万次操作来说，这意味着巨大的节省。
IBM 研究部门的 Chiplet 和高级封装团队正在寻求通过共封装光学器件来简化此系统，这种方法有望提高芯片内部和芯片之间的通信效率和密度。将光学连接引入集成电路板的一部分是内置发射器和光电探测器来发送和接收光信号。
光纤直径约为 250 微米，约为人类头发宽度的三倍。这听起来可能很小，但四根光纤加起来只有一毫米，随着毫米数的增加，芯片边缘的空间很快就会用完。
IBM 研究科学家认为，解决方案在于实现更密集连接的下一代光学链路：聚合物光波导。这种设备可以将高密度光纤束排列在硅片的边缘，这样它就可以通过聚合物光纤直接进行通信。高保真光学连接要求光纤和连接器之间的精确公差为半微米或更小，而该团队现在已经实现了这一壮举。
得益于这些方法，该团队已经证明了使用标准组装封装工艺将光通道间距缩小到 50 微米的可行性，这些光通道与硅光子波导和可插入单模玻璃光纤 (SMF) 阵列的连接器耦合。这比传统的 250 微米间距缩小了 80%，但测试表明，它们可以进一步缩小到 20 或 25 微米，这相当于带宽增加 1,000-1,200%。
光子集成电路 (PIC) 到 SMF 光链路的插入损耗通常为每通道 1.5 到 2 分贝 (dB)，但在本例中，已证明每条完整光链路的插入损耗低于 1.2 dB。此外，18.4 微米间距光波导的演示显示串扰低于 30 dB，表明这种共封装光学技术可扩展到芯片互连的极高带宽密度。
这意味着，通过借鉴电话行业的经验，他们可以在每个光通道上传输多种波长的光，这有可能将带宽提高至少 4,000% 甚至高达 8,000%。
除了光纤到芯片和光纤到板的连接之外，他们还用高强度聚合物增强传统玻璃纤维，这一举措提高了耐用性和效率，但也需要对光学长度进行先进的建模模拟，以确保光可以无损失地传输通过多个组件，即所有这些的“共同封装”。
该开发过程还包括行业标准的可靠性压力测试，以确保所有光学和电气链路在承受制造和应用过程中的压力时仍能正常工作。
组件要经受 -40°C 至 125°C 的温度考验，并要经过机械耐久性测试，以确认光纤可以承受弯曲而不会断裂或导致数据丢失。这项测试在 IBM Research 位于纽约约克敦高地的全球总部以及 IBM 位于魁北克省布罗蒙特的工厂进行。
“重要的是，我们不仅大大提高了模块的通信密度，而且我们还证明它可以兼容过去光学链路未能通过的压力测试，”尼克博克说。
IBM 的模块旨在与标准电子无源先进封装组装工艺兼容，从而降低生产成本。借助这项创新，IBM 可以在其 Bromont 工厂生产共封装光学模块。
该团队正在制定该技术下一步的路线图，包括征求 IBM 客户的反馈意见并启用共同封装的光学器件以满足生成性 AI 计算业务需求。
“我们还将与零部件供应商合作，帮助他们为下一步技术做好准备，”Knickerbocker 说，“并使他们能够支持批量生产，而不仅仅是原型设计。”
|
|
发表于 2024-12-13 14:51:25