硅谷人工智能基础设施的蓬勃发展带来了一个令人惊讶的物理问题：通过铜线传输的数据量是有限的，超过一定限度，热量、距离和电力消耗就会变得难以承受。

这就是为什么投资者、芯片制造商和云巨头们突然开始密切关注光子学，利用光而不是电信号在人工智能芯片和服务器之间传输数据。

我最近参观了Lightmatter位于硅谷的总部，这家初创公司在那里展示了其用于人工智能数据中心的最新光子硬件。活动结束后，我与Lightmatter首席执行官尼克·哈里斯（Nick Harris ）进行了交流，探讨了光学技术为何可能成为人工智能时代不可或缺的基础设施。

哈里斯看起来年轻得令人恼火，而且聪明得令人恼火，拥有麻省理工学院的博士学位。Lightmatter公司也已经取得了令人恼火的成功，从包括谷歌、富达和T. Rowe Price在内的大投资者那里筹集了8.5亿美元。

周二，Lightmatter 加入了英伟达的 NVLink Fusion 生态系统，这应该有助于这家初创公司的技术更好地与英伟达的主导 AI 硬件协同工作。

以下是我与哈里斯的对话，为了清晰简洁，略作编辑。

问：为什么人工智能公司突然对光子学感兴趣？

哈里斯表示，人工智能行业已经发展到这样一个阶段：提升性能不再是提高单个芯片的速度，而是有效地将大量的 GPU 连接在一起。

如今的人工智能系统严重依赖GPU之间的铜线连接。在小规模应用中，这种方式运行良好。但随着企业将成百上千个GPU连接起来构建前沿人工智能模型，铜线连接便成为瓶颈，因为电信号在相对较短的距离内会衰减，并产生大量热量。

光子学使用光在光纤中传输。这使得数据传输距离更远、速度更快、能耗更低。

“假设你有 500 个 GPU，并且有铜线将它们连接起来，使它们能够在所谓的纵向扩展域中进行通信。人们在这些系统上运行模型训练工作负载。”

哈里斯告诉我，如果使用铜缆，你需要四个独立的GPU服务器机架才能达到500台GPU服务器，但“如果全部改用光纤，就可以直接连接所有500台GPU服务器。这样一来，训练AI模型的时间就会大幅缩短。想想像Claude这样的前沿模型，速度提升了三倍。”

“谁先掌握了这项技术，谁就在这场前沿竞赛中更快地推出新车型。他们有两个选择。一是每个月都推出新车型，二是花三个月时间，但推出一款规模更大的车型，”他补充道。

“假设我的能源供应有限。同样的功率，我能获得三倍的性能。这样一来，原本1吉瓦的功率感觉就像3吉瓦一样。或者说，同样的功率，你只需三分之一的时间就能用完，”哈里斯解释道。

问：人工智能数据中心内部的铜缆连接存在什么问题？

哈里斯说：“铜线只能传输大约一米长”，因为电信号在铜缆中传输时会迅速衰减。

“信号会在导线中产生电信号，但随着传输距离的增加，信号强度会越来越弱。大约一米后，数据就丢失了。”

这种物理限制又带来了另一个问题：散热。由于铜缆的传输距离有限，人工智能数据中心里的GPU服务器机架现在都紧密地排列在一起。

“它们挤在一起了，”哈里斯说。“问题是我需要它们全部叠在一起，这样铜才能接触到。但缺点是散热非常困难。”

光子学改变了这一点，因为光信号可以传播得更远更快而不会衰减，所以 GPU 服务器和机架可以间隔更远的距离。

“光学成像并不关心物体之间的距离，”哈里斯说。“它们可能远在一公里之外。”

这样一来，数据中心运营商在设计和冷却 AI 集群方面就有了更大的灵活性，从而有可能节省更多用于冷却这些系统的电力成本。

问：什么是双向通信（BiDi），它为什么重要？

Lightmatter 正在研究的一项更具实用性的创新是减少人工智能数据中心内部所需的布线量。

哈里斯表示，一些下一代人工智能集群需要大约300英里的电缆。Lightmatter公司旨在通过一种名为BiDi（双向通信的缩写）的技术将电缆长度减少一半。

“通常情况下，无论是使用铜缆还是光纤，如果我想在两个GPU之间建立连接，我需要两根线，”哈里斯解释说。“一根是发送线，另一根是接收线。”

Lightmatter 的方案是将两个方向的线缆合并到一根线缆中。

对于超大规模数据中心而言，减少光纤长度至关重要，因为光缆会占用空间、产生热量、增加维护难度并提高成本。Lightmatter 指出，将光纤总需求量从 300 英里减少到 150 英里，可以显著简化大规模人工智能集群的构建。

问：为什么光子学没有更早得到应用？

哈里斯表示，主要问题在于成本。“光子学太贵了，”他说。

哈里斯解释说，这种情况正在发生变化，因为制造技术得到了改进，人工智能基础设施的需求也呈爆炸式增长。

“设计这些系统的人追求的是可靠的2倍性能提升。带宽翻倍，性能翻倍，而且他们坚持定期实现这一目标。以前铜缆还能榨取一些性能提升，但现在这种机会已经用完了。不仅如此，还有更强劲的推动力，那就是人们意识到，率先采用和部署光子技术的公司——英伟达很可能就是其中之一——拥有巨大的性能优势。”

“以前是‘迫不得已才进行转换’，现在是为了获得竞争优势才进行转换，”哈里斯说。