硅谷人工智能基础设施的光芯快速发展带来了一个重要的物理问题：通过铜线传输的数据量是有限的，超出一定范围后，何引热量、起广距离和电力消耗都会变得难以控制。泛关这促使投资者、光芯芯片制造商和云公司开始关注光子学技术，何引利用光而非电信号在AI芯片与服务器之间进行数据传输。起广
我最近参观了位于硅谷的泛关初创公司Lightmatter，并了解了其为人工智能数据中心研发的光芯先进光子硬件。在活动后，何引我与Lightmatter的起广首席执行官尼克·哈里斯（Nick Harris）进行了对话，探讨光学技术如何成为人工智能时代的泛关关键基础设施。
哈里斯是光芯一位年轻而聪慧的专家，拥有麻省理工学院的何引博士学位。Lightmatter已成功融资8.5亿美元，起广投资者包括谷歌、富达与T. Rowe Price等知名企业。近期，Lightmatter还加入了英伟达的NVLink Fusion生态系统，以增强其技术与英伟达主导AI硬件的协同。
以下是我与哈里斯的访谈内容，做了简要编辑以便清晰表达。
问：为何人工智能公司对光子学表现出兴趣？
哈里斯指出，人工智能领域已经发展到一种新阶段，提升性能的关键在于有效连接大量的GPU。
当前的AI系统高度依赖铜线连接GPU。在小规模应用中，这种方式运行良好，但在构建大规模AI模型时，铜线连接成为了瓶颈，因为电信号在短距离内会衰减并产生过多热量。而光子学通过光纤传输数据，可以提供更远的传输距离、更快的速度和更低的能耗。
哈里斯解释说，假如有500个GPU通过铜线连接，需要四个独立的GPU服务器机架，而使用光纤则可以直接连接全部500台GPU，这大大缩短了训练AI模型的时间。例如，前沿模型Claude的速度可提升三倍。
问：人工智能数据中心的铜缆连接存在哪些问题？
哈里斯指出，铜线的有效传输距离约为一米，因而信号在传输过程中逐渐衰减，且在一米后数据会丢失。同时，散热问题也随之而生，因为GPU服务器机架密集排列，导致散热困难。光子学技术的出现使光信号能够长距离快速传播，增加了GPU服务器机架之间的间距，从而改善了设计和冷却AI集群的灵活性，可能减少电力冷却成本。
问：什么是双向通信（BiDi），其重要性何在？
Lightmatter正在研发的BiDi技术旨在减少AI数据中心所需的布线量。哈里斯提到，下一代AI集群通常需要约300英里的电缆，BiDi技术则可将其减少一半。
通常情况下，要在两个GPU之间建立连接需要两根线（发送和接收）。然而，Lightmatter的方案是将这两个方向的连接整合为一根线。这对超大规模数据中心尤为重要，因为减少光纤的长度不仅节省空间，还能降低热量、维护难度和成本。
问：为什么光子学之前没有得到更广泛的应用？
哈里斯提到，主要原因是成本问题。“光子学研发费用较高。”但随着制造技术的进步和AI基础设施需求的激增，这种情况正在改变。
如今，设计者追求的是稳定的性能提升，而过去依赖铜缆的性能提升机会已接近枯竭。很多企业意识到，首批采用和部署光子技术的公司（如英伟达）将获得显著的性能优势。
哈里斯总结道：“之前是迫于无奈才转而使用光子技术，现在是为了获取竞争优势。”
本文转载自微信公众号“半导体行业观察”，官网编辑：徐文强。