对于现代高性能计算和人工智能系统而言，高交换机基数（即给定交换机ASIC可以连接的端口数量）与低延迟和高带宽一样重要。

理想情况下，我们需要一个能够实现所有这些功能的巨型交换机，其ASIC插槽的大小相当于六个12英寸方形硅晶圆。但这样一台巨型交换机也会带来自身的问题，这就是为什么我们仍然像划分计算和存储一样划分网络的原因。

然而，平衡基数、延迟和带宽这三个不同维度正是交换芯片设计者的职责所在。Innovium 是一家超大规模以太网芯片初创公司，于 2021 年 8 月被 Marvell 收购。自 2015 年成立并在两年后正式亮相以来，该公司一直在努力突破延迟和带宽的瓶颈。而即将开始提供样品的全新 Teralynx T100，标志着 Marvell 的交换机 ASIC 团队正在将技术推向极致。通过此举，Marvell 有望扩大 Teralynx 芯片和交换机在超大规模数据中心和云服务提供商中的应用，甚至可能吸引那些寻求高带宽、高基数和低延迟以太网以构建横向扩展和纵向扩展网络的 AI 模型构建者的关注。

自 2020 年新冠疫情爆发以来，Teralynx 芯片的销量一路飙升。此前独立的 Innovium 公司在 2020 年出货了超过 100 万个 400 Gb/秒以太网端口，这些端口混合使用了 Teralynx 7 和 8 芯片。两年后，Marvell 将 Teralynx ASIC 推向大规模生产，ASIC 的总带宽从 12.8 Tb/秒到 51.2 Tb/秒不等。

到 2023 年，Marvell 已出货超过 500 万个 400 Gb/sec 端口，相当于超过 30 万台交换机。到去年，Marvell 已售出超过 2000 万个 400 Gb/sec 端口，这大概相当于 125 万台交换机，这主要得益于 51.2 Tb/sec Teralynx 10 ASIC 的交付，该芯片采用台积电 (TSMC) 的 5 纳米工艺，于 2024 年开始量产。

这一次，Marvell 网络交换部门总经理Rishi Chugh向The Next Platform表示，Teralynx T100正在挑战极限，制造出一款单片交换机 ASIC，其尺寸已接近光罩极限，并采用了台积电的 3 纳米工艺，如果非要猜测的话，很可能是其 N3E 改进版。

T100 的总带宽为 100.4 Tb/s，使用 224 Gb/s的 SerDes（扣除信令开销后降至 200 Gb/秒），在数据包处理引擎和 SRAM 缓存的外部封装了 512 个 SerDes。图中红色区域是 SRAM，显然有四个数据包处理引擎模块。

我数了一下，总共有 76 个 SerDes 模块——左右两侧各 18 个，上下两侧各 18 个，四个角各 4 个。如果每个模块包含 4 个 SerDes，那么总共就是 608 个 SerDes。假设这些模块的利用率为 84%，那么最终可以得到 512 个可用的 SerDes。

Chugh表示，T100采用单芯片设计，而非将SerDes拆分成小芯片，使其功耗降低了25%。当然，采用相对较新的N3工艺制造大型单芯片会存在良率问题，这也是芯片上实际SerDes数量比规格表所示高出19%的原因。但如果想要兼顾性能和功耗，就必须制造成本更高的芯片。

显然，在人工智能时代，资金还不是限制因素……

T100芯片的典型功耗将低于1000瓦，更重要的是，该芯片的端口间跳转延迟仅为420纳秒。虽然这不如InfiniBand在相同端口速度下所能达到的最低延迟（约130纳秒），但Marvell希望通过额外的工程设计，将延迟降低到300纳秒左右，这一延迟足以使T100支持用于AI加速器的ESUN可扩展内存共享协议。ESUN协议有望成为全球XPU中Nvidia NVLink协议及其NVSwitch内存架构的替代方案。

T100 还支持超以太网联盟 (Ultra Ethernet Consortium) 协议，尤其重要的是其自适应路由功能，该功能可使横向扩展网络与数万甚至数十万个 XPU 协同工作。与之前的 Teralynx 7 和 Teralynx 10 芯片一样，它既可以运行最初由微软开发的基于 Linux 的开源网络操作系统 SONiC，也可以运行 Innovium 最初瞄准的超大规模数据中心和云平台构建商自主开发的 NOS。

如您所见，您可以将这 512 个 SerDes 以多种方式捆绑在一起。如果一个 SerDes 驱动一个端口，则可以获得 512 个以 200 Gb/s 速率运行的端口。您还可以实现 256 个以 400 Gb/s 速率运行的端口、128 个以 800 Gb/s 速率运行的端口以及 64 个以 1.6 Tb/s 速率运行的端口。这仍然远不及 Nvidia 使用 NVSwitch 实现的带宽，但 NVSwitch 的基数也很低，因此您最终还是会将它们串联起来。

对 Marvell 而言，或许最重要的是 Teralynx T100 将提供多种不同的接线方式。

如果你只需要普通的BGA封装芯片，你会得到一个长这样的开关：

这两款BGA参考平台旨在以3U机架式设计提供64个端口，传输速率高达1.6 Tb/s。第一款支持开放计算项目（Open Compute Project）的Open Rack v3机架式设计，该设计支持总线供电，机箱宽度为21英寸。这强烈暗示Meta Platforms可能正在使用这款T100交换机ASIC芯片。此外，这两款BGA参考平台还包含一款标准的3U机架式设计，机箱宽度为19英寸，并配备标准的交流电源。这两款BGA参考交换机将于2026年第四季度开始提供样品。

对于那些尚未准备好采用共封装光学器件 (CPO) 的用户，还有一种共封装铜 (CPC) 的变体，以下是两个相关的参考平台：

左边那台是2U交换机，支持64个OSFP端口，传输速率为1.6Tb/s，并且F-OSFP端口支持CPC输出。右边那台是1U交换机，看起来只有24个端口。

还有一种 NPO 版本可以直接从 SerDes 输出信号（图中未显示），当然，对于那些想要使用 CPO 版本的人来说，也有合适的 CPO 版本：

T100 参考平台的 CPO 版本同样采用 Orv3 设计，并配备直流母线，但也可选配交流电源。它拥有 Compute on Module Express (COMe) 控制平面，支持 X86 或 Arm CPU。最初的 CPO 设计采用风冷和液冷相结合的散热方式，但预计最终的 T100 平台（含 CPO 选项）将主要采用液冷散热。

基于 T100 的交换机预计将带来以下资本支出和运营支出总拥有成本优势：

目前尚不清楚“批量部署”的具体含义，但要实现上述2亿美元的总拥有成本节省，可能意味着需要部署数万台交换机。在人工智能时代，这样的规模并不算大。

Marvell预计将于2027年下半年推出基于T100衍生芯片的ESUN交换机，坊间传闻微软和Meta Platforms将成为ESUN的重点支持者。Marvell还计划于2027年上半年推出UALink交换机