摩根士丹利剖析英伟达 AI 服务器:单套散热成本近 5 万美元,下一代再涨 17%

抖音秀 热点资讯 7

11 月 6 日消息,科技媒体 Tom's Hardware 昨日(11 月 5 日)发布博文,报道称基于摩根士丹利发布的最新报告,英伟达 GB300 NVL72 机架级 AI 系统的单套水冷系统成本高达 49860 美元(注:现汇率约合 35.5 万元人民币),并预估下一代 NVL144 平台水冷系统成本将再上涨 17%,达到 55710 美元(现汇率约合 39.7 万元人民币)。

摩根士丹利发布的物料成本清单中,指出英伟达 NVL72 机柜的水冷系统成本主要由两部分构成。该机柜包含 18 个计算托盘,每个托盘的散热组件价值约 2260 美元,合计成本为 40680 美元。

同时,机柜还包含 9 个交换机托盘,其散热系统成本为每个 1020 美元,合计 9180 美元。在所有组件中,为 CPU 和 GPU 定制的高性能冷板最为昂贵,单价 300 美元;而为 NVSwitch 专用集成电路(ASIC)设计的冷板单价也达到了 200 美元。

展望未来,下一代 Vera Rubin NVL144 平台将集成热量更高的 Vera CPU、Rubin GPU(单颗功耗高达 1800W)以及新一代 NVSwitch 6.0 芯片。

摩根士丹利预测,这些升级将直接推动整套水冷系统的成本上涨至 55710 美元。其中,计算托盘采用了单价高达 400 美元、散热能力更强的新型冷板,因此散热成本预计将增长 18%,达到每托盘 2660 美元。

该媒体指出随着 CPU 和 GPU 性能的不断提升,其功耗也随之激增,这让先进的散热解决方案变得至关重要。从 GB200 NVL72 到 GB300 NVL72(散热成本 + 20%),再到 Vera Rubin NVL144(散热成本 + 17%),这一成本上涨的趋势非常明显。