NVIDIA下一代AI服务器单颗芯片功耗达1800W，液冷方案成本需40万元

11月6日消息，当下的AI芯片性能愈发强劲，对电力的需求也愈发“饥渴”，就连微软CEO纳德拉都感叹电力供应已难以跟上，而这背后NVIDIA确实负有不小的责任。

根据摩根士丹利最新发布的报告显示，在NVIDIA Blackwell Ultra GB300 NVL72机架式AI服务器系统里，仅液冷散热组件这一项的价值就达到了49860美元，换算成人民币将近36万元，这一价格相比GB200 NVL72系统已经高出了约20%。

这还没完。

下一代系统的功耗会进一步上升，所以Vera Rubin NVL144服务器的液冷系统成本预计将再增长17%，达到55170美元，大概相当于人民币近40万元。

根据这份报告，GB300 NVL72服务器配备18个计算托盘，每颗GPU芯片的功耗达1400W，每个计算托盘的功耗不低于6600W，因此需要6200W的散热能力来支撑；单个液冷装置的成本约为2260美元，18个的总成本则是40680美元。

另外还有9个NVSwitch交换机托盘，单个液冷成本约1020美元，9个总计9180美元。

不出意外，在整个液冷散热系统里，成本最高的组件是专门为GPU和CPU定制的高性能液冷板，每个价格达到300美元；另外，为NVSwitch交换机定制的冷板也不便宜，每个也需要200美元。

摩根士丹利预测，新一代的Vera CPU与Rubin GPU在功耗方面将会有所上升，特别是GPU的功耗预计将达到1800W之高，与此同时NVSwitch 6.0交换机的耗电量也会增加，这自然会导致散热所需的成本相应提高。

其中，每个计算托盘的散热成本上涨18%，达到2660美元；更大容量的冷板成本增至400美元，托盘总量保持不变，总成本合计47880美元。

好消息是交换机托盘的散热成本会降低大约15％，每个870美元，合计7830美元。

后续推出的Rubin Ultra，每个GPU封装内将集成4个计算模块与16个HBM4E内存模块，其热设计功耗会显著提升至3600W，因此需要配备全新的液冷板，甚至可能采用浸没式液冷方案。

同时，NVIDIA正筹备全新的NVL576机架方案，该方案集成的GPU数量多达144颗，是现有配置的两倍，散热方面的成本也必然会随之大幅上升。

当然，跟我们没啥关系……