NVIDIA的《Vera Rubin》机架内存成本相当惊人,据“材料清单”显示,内存成本占据了《Vera Rubin》平台成本的62%。
相较于Grace Blackwell服务器,内存成本占比从53%攀升至62%,价格翻了一番。
《Vera Rubin》机架的昂贵并非意外,尽管人们预料到为这些下一代企业级服务器支付溢价,但主要成本驱动因素依旧是内存。
最新的UBS报告深入分析了《Vera Rubin》超级芯片及其配置的机架成本。《Vera Rubin》NVL72服务器,代号Oberon,基于Rubin架构,配备了72个GPU和大量内存。
单芯片就拥有288GB的HBM4内存,提供高达22TB/s的带宽,而Vera CPU则连接到最新的SOCAMM2 LPDDR5X解决方案,每个超级芯片可携带高达1.5TB的内存。
NVIDIA NVL72机架被称为Oberon,搭载72个GPU和36个CPU。一个Vera Rubin托盘包含4个“Rubin”GPU和2个“Vera”CPU。两个GPU和一个CPU安装在主板上,称为超级芯片。NVL 72机架上有36个超级芯片。因此,总共有72个GPU和36个CPU。
每个Rubin GPU拥有288GB的HBM4内存,每个Vera CPU配备1.5TB的LPDDR5X内存。对于NVL72机架来说,那是20.7TB的HBM4内存和54TB的LPDDR5X内存。
UBS报告指出,每个NVIDIA Vera Rubin超级芯片的成本为38,902美元,其中24,297美元仅用于内存(HBM4/SOCAMM2)。
Rubin芯片的成本估计为9,247美元。这包括GPU、HBM4、封装、中介层和外围组件。
Vera芯片的成本估计为20,059美元。这包括CPU、SOCAMM2 LPDDR5X,以及其他主板组件350美元。
Rubin GPU上的HBM4内存估计为4,943美元,占芯片成本的53.4%和整个超级芯片成本的12.7%。
对于Vera CPU,SOCAMM2的成本估计为19,355美元,占Vera成本的96.4%和整个超级芯片成本的49.8%。如果去掉内存,Vera CPU本身的成本仅为704美元。因此,GPU的一半成本和CPU的全部成本都用于DRAM。
与Grace Blackwell服务器相比,Vera Rubin在总成本上增长了2.1倍,但内存成本增长了2.5倍。
Grace Blackwell服务器上的Grace CPU配备了480GB的内存,Blackwell GPU提供了192GB的HBM3E(GB200)和高达288GB的HBM3E(GB300)。
Vera Rubin机架的总内存池增加到74.7TB(HBM4 + SOCAMM2)。这意味着一个Vera Rubin机架在DRAM使用上大致相当于4500部智能手机。
这种分析应该可以粗略地解释为什么全球DRAM如此短缺。不仅仅是NVIDIA;AMD也推出了其强大的Helios平台,每个GPU提供高达432GB的HBM4内存,其下一代服务器也将携带类似甚至更高的LPDDR5X内存量。
其他AI巨头也在开发自己的Agentic AI时代加速器和服务器平台,这将进一步加剧DRAM市场的压力,因为“三大”报告称这些短缺将持续数年,AI客户目前通过长期协议优先获得供应。






