美光(Micron)近期在投资者关系页面密集发布高密度服务器内存进展——基于 1-gamma 节点的 256GB DDR5 RDIMM,以及面向 CPU 直连的 256GB LPDRAM SOCAMM2,均瞄准下一代 AI 与 HPC 服务器。对采购来说,单插槽容量与功耗的同时跃升,直接关系机架密度与总拥有成本(TCO)。
一、256GB DDR5 RDIMM:速度比在产模块快 40% 以上
该模块基于美光领先的 1-gamma DRAM,速率最高达 9,200 MT/s,较当前在产模块快 40% 以上;采用 3D 堆叠(3DS)与硅通孔(TSV)先进封装。单条 256GB 模块相较两条 128GB 模块,运行功耗可降低 40% 以上(约 11.1W vs 19.4W),帮助数据中心在散热与供电边界内放大单 socket 内存容量。
二、256GB SOCAMM2:功耗仅 RDIMM 的三分之一
SOCAMM2 采用业内首颗单体 32Gb LPDDR5X 裸片,容量为前代最高 192GB SOCAMM2 的 1.33 倍,单 8 通道 CPU 可提供 2TB LPDRAM。其功耗与占位均仅为等效 RDIMM 的约三分之一,在长上下文 LLM 推理的 KV cache 卸载场景下,首字延迟(time to first token)提升 2.3 倍;独立 CPU 应用中性能 / 瓦特提升 3 倍以上。美光已与 NVIDIA 协同设计,目前向关键服务器生态伙伴送样。
三、为什么对采购重要:容量、功耗与 TCO
AI 训练、推理、Agentic AI 与高核数 CPU 负载,正把内存容量、带宽与能效推到系统级约束的第一线。256GB 级模块让单机柜在同样供电 / 散热下塞进更多内存,缩短大模型响应延迟、降低单位算力成本。对云厂商与服务器 OEM 而言,这意味着在规划新一代平台时,可把“大容量低功耗内存”作为默认选项,而非奢侈品。
四、落地节奏要注意
新模组格式从送样到平台验证、规模部署通常有较长周期,且性能收益高度依赖客户的系统设计与实际负载。当前美光正与生态伙伴做跨代平台协同验证,采购侧建议把 256GB 模块纳入 2027 年平台选型与备货评估,而非急于在本代产线替换。
高密度、低功耗服务器内存正从“可选进阶”变为 AI 基础设施的“必选项”,美光的 256GB 双线布局,给采购提供了更清晰的容量与 TCO 路线。
个人观点仅供参考,不作为任何投资建议。
