英伟达近日首次公布下一代旗舰机柜Vera Rubin NVL72的片上实测数据。测试直接部署DeepSeek-V4-Pro模型,运行真实智能体编码工作负载,结果显示,在相同交互目标下,该系统每兆瓦吞吐量最高可达上一代GB300 NVL72的30倍,Token成本最高降低35倍。这一突破从算力密度、液冷体系到供电架构全面重塑了AI工厂的基础设施要求。

Vera Rubin NVL72
Vera Rubin NVL72是英伟达面向智能体时代打造的机架级AI超级计算机。整机将72颗Rubin GPU与36颗Vera CPU通过第六代NVLink互联,形成一个统一的大规模共享内存域。每个Rubin GPU配备288GB HBM4高带宽内存,单卡内存带宽达22TB/s;整机总HBM4容量约20.7TB,NVLink 6全机架聚合带宽达260TB/s。Vera CPU采用88个英伟达自研Olympus核心,专注于智能体任务调度、代码执行与数据处理,与GPU形成异构协同。
整机推理性能可达3600 PFLOPS(NVFP4精度),训练性能约2520 PFLOPS。系统专为万亿参数级混合专家(MoE)模型与长上下文智能体场景设计,支持Prefill/Decode分离、分布式KV缓存、KV感知路由等软件机制,使DeepSeek这类大模型在72卡规模内高效调用不同专家子网络。
算力 vs 功率
实测采用SemiAnalysis AgentX基准,该基准回放真实智能体编码会话,保留上下文增长、工具调用与子智能体生成等动态特征。在DeepSeek-V4-Pro(1.6T总参数)负载下,Vera Rubin NVL72在每用户160 tokens/s的交互目标下,每兆瓦吞吐量最高提升30倍。Token成本相应最高下降35倍。
单机柜功耗方面,系统提供两种软件可配置的功耗模式:Max Q(Maximum Efficiency,最大能效模式)配置约190kW,Max P(Maximum Performance,最大性能模式)配置约230kW。两者硬件完全相同,并非不同SKU,而是通过软件管理的功耗配置文件实现灵活切换。
Max Q优先追求每瓦性能最优,单颗Rubin GPU热设计功耗约1.8kW,适合电力受限或注重能效与总拥有成本的场景;Max P则优先释放绝对峰值性能,单卡功耗约2.3kW,功耗提升约20%,但性能提升幅度通常低于功耗增幅。用户可根据数据中心实际供电能力与工作负载需求自主选择,也可在软件允许的范围内自定义功耗上限(最高不超过2.3kW/GPU)。
液冷体系全面升级
Vera Rubin是英伟达首个实现100%液冷的AI基础设施世代。整机无风扇设计,所有芯片与网络组件均通过冷板直接液冷。冷却液采用75%水与25%丙二醇混合液,入口温度最高可达45℃(高于普通热水浴缸),出口温度约55℃。
这一“高温液冷”方案允许数据中心在多数气候条件下使用干式冷却器直接排热,大幅减少甚至取消机械冷水机组。传统冷却塔每兆瓦年耗水量约260万加仑,而该方案在适宜气候下可将水耗降至接近零。封闭循环设计一次注液后长期运行,显著降低冷却能耗与水资源消耗。据测算,50兆瓦规模设施每年可节省超过400万美元的冷却相关费用。
供电需求与数据中心适配
高功率与全液冷设计要求数据中心同步升级电力与冷却基础设施。机柜电力进线容量提升,电源架支持更高冗余与动态负载。英伟达同时推出DSX MaxLPS动态功耗管理技术,可在固定兆瓦预算内多部署约40%的GPU容量,进一步提升每瓦有效吞吐。
高功率密度对数据中心供电提出更高要求。当前Vera Rubin NVL72机柜仍可使用传统机柜内电源架(多组110kW级PSU),常规54V/52V配电方案足以支撑约190–230kW功耗。800V直流(800 VDC)配电并非强制要求,而是作为可选配置提供:英伟达已开发800V高压直流电源架(sidecar形式),预计2026年第三季度起可供客户选配,用于降低电流、减少铜排占用并提升转换效率。该方案更面向未来更高密度部署的平滑过渡。
需要说明的是,目前公开信息中,Vera Rubin NVL72单机柜功耗约为190–230kW,并未达到1MW级别。业界提及的1MW机柜主要指向后续代际:Rubin Ultra(Kyber架构,预计2027年下半年)单机柜功耗约600kW,更远期的Feynman等平台才可能逼近或超过1MW。因此,800V架构在Rubin Ultra及以后世代的必要性会显著提升。
对算力中心而言,Vera Rubin并非简单换代,而是从芯片、互联、液冷到供电的全栈协同设计。它将AI工厂的能耗瓶颈从“算力不够”转向“如何在单位能源下支撑更多智能体任务”,为大规模部署DeepSeek等开源大模型提供了更具经济性的硬件底座。
目前相关实测数据仍在等待独立机构复核,系统预计2026年下半年起逐步交付。对规划AI工厂的运营商来说,提前评估液冷与高功率供电能力,已成为部署下一代算力的关键前提。


VIP复盘网