NVIDIA的Vera Rubin Ultra系统即将面世，市场传言不断，有消息称NVIDIA可能会减少每个GPU中的HBM4E数量以维持利润率。

美国银行近日发布了一份报告，深入分析了NVIDIA即将推出的基于Vera Rubin Ultra的Kyber Racks中HBM4E和LPDDR5X SOCAMM2模块之间的关系。

目前，每个基础Rubin GPU配备了288GB的HBM4，分布在8个堆栈中，每个GPU的带宽高达22TB/s。Vera CPU放弃了传统的服务器RDIMM，转而使用LPDDR5X SOCAMM2模块，这些模块通过压缩连接器紧贴主板，缩短了电气路径，为数据中心所需的LPDDR5X提供了信号完整性和低延迟。每个Vera CPU有8个SOCAMM2插槽，理论上每个CPU的LPDDR5X内存容量可达1.5TB（192GB模块）。

美国银行估计，尽管HBM容量和价格急剧上升，HBM在Nvidia机架经济中所占比例仍然较小，大约为7.5%。

美国银行的最新报告详细说明了Rubin中HBM4E的成本为每GB 19.76美元。更关键的是，每个144-GPU的Kyber机架将配备216TB的LPDDR5X，成本约为280万美元，而124.4TB的HBM4E的成本超过250万美元。总体来看，每个Kyber机架的成本高达4160万美元。

瑞银的相关报告指出，Vera Rubin超级芯片配置中每个Rubin GPU的成本估计为9247美元，包括HBM4、封装、中介层和外围组件。而每个Vera CPU的成本约为20059美元，包括SOCAMM2 LPDDR5X，以及其他板组件的额外350美元。GPU成本的大约一半和CPU成本的几乎所有（去除内存后成本仅为704美元）由DRAM组成。

在Blackwell服务器上，Grace CPU配备了480GB的内存，而Blackwell GPU提供了192GB的HBM3E（GB200）和高达288GB的HBM3E（GB300）。然而，Vera Rubin机架上的总内存池已经膨胀到74.7TB（HBM4 + SOCAMM2）。对于Kyber机架，这个池子膨胀到了惊人的340.4TB。