清华大学金融科技研究院孵化
金融科技与金融创新全媒体

扫描分享

本文共字,预计阅读时间

2025 年 2 月 26 日,美光科技宣布已率先向生态系统合作伙伴及特定客户出货专为下一代 CPU 设计的 1γ(1-gamma)第六代(10 纳米级)DRAM 节点 DDR5 内存样品。1γ 节点 16Gb DDR5 产品数据传输速率可达 9200 MT/s,与前代产品相比速率提升高达 15%,功耗降低超过 20%。该节点的出货标志着 DRAM 制程从 1β 向 1γ 的代际跨越,直接影响从数据中心到边缘 AI 设备的内存配置空间。

边缘AI没有统一的内存容量答案,配置需要结合模型规模、响应要求、设备功耗和可用空间判断。美光1γ LPDDR5X目前提供8GB至32GB容量选项,产品面向2026年旗舰智能手机;这一容量范围可以作为移动端AI设备的产品参考,但不能直接等同于所有边缘模型的固定需求。

在基于Llama 2的移动AI响应时间测试中,相比采用1β节点、带宽7.5Gbps的测试配置,1γ LPDDR5X将地点推荐查询速度提升30%,语音转译速度提升超过50%。这些结果反映的是特定移动AI测试中的响应改善,也说明带宽与功耗需要结合具体终端任务评估。

美光1γ节点采用EUV光刻技术和新一代HKMG CMOS技术,单片晶圆容量密度产出较上一代提升超过30%。美光表示,更高容量密度有助于扩大内存供应规模;具体设备是否配置更大容量,仍取决于产品定位、平台设计和客户需求。

汽车和工业级边缘设备除容量与带宽外,还需要关注宽温运行、长期可靠性和产品生命周期。美光规划中的1γ汽车级LPDDR5X传输速率可达9600MT/s,并具备1γ节点的能效改进;选型时应以具体车载平台的认证和设计要求为准。

数据中心GPU使用HBM4解决高带宽需求,而移动和边缘设备更常依据功耗、封装空间与平台条件评估LPDDR5X或DDR5。不同内存形态对应不同计算层级,不宜把数据中心HBM4的产品参数直接套用到边缘设备。

因此,边缘AI内存规划应先明确设备类型和目标任务,再比较容量、带宽、功耗、封装和平台兼容性。8GB至32GB是当前美光1γ LPDDR5X公布的移动产品范围,并不是所有边缘AI设备的统一容量标准。

Q: 边缘 AI 设备最少需要多少内存才能运行推理?

A: 边缘AI没有统一的最低内存数值,容量应根据设备平台和实际任务确定。美光1γ LPDDR5X公布的8GB至32GB容量选项面向2026年旗舰智能手机,可作为移动端产品参考,但不能直接等同于所有模型的内存门槛。

Q: 1γ 制程对边缘内存的单位成本有什么影响?

A: 美光1γ DRAM节点单片晶圆容量密度产出较上一代提升超过30%,有助于提高内存供应扩展能力。该节点功耗降低20%以上,并实现更优散热;具体产品成本和整机成本仍需结合制造、平台及部署条件评估。

Q: 车载边缘 AI 对内存有什么不同于数据中心的要求?

A: 美光规划中的1γ汽车级LPDDR5X传输速率可达9600MT/s,并可提升容量、耐用性和性能。车载应用还需结合可靠性要求、平台认证和整车设计评估,不能仅依据传输速率判断实际推理表现。

Q: HBM 是否适用于边缘 AI 场景?

A: 美光HBM4当前面向NVIDIA Vera Rubin等数据中心GPU平台。边缘设备通常需要优先评估LPDDR5X或DDR5的功耗、封装与平台条件;是否采用HBM应以具体硬件平台和厂商产品定位为准。

Q: 边缘 AI 推理中 KV 缓存对内存容量有何要求?

A: KV缓存容量会随模型规模、上下文长度和并发会话数量增长,因此不存在统一数值。规划时需要结合目标模型和实际并发进行测算,并为系统运行及其他应用预留内存空间。

Q: EUV 光刻技术如何影响 DRAM 的容量密度?

A: 美光1γ DRAM节点采用EUV光刻技术,并通过设计优化和制程创新,使单片晶圆的容量密度产出较上一代提升超过30%。这一指标体现了1γ节点在容量密度和供应扩展方面的改进。

[Source]

本文系未央网专栏作者发表,属作者个人观点,不代表网站观点,未经许可严禁转载,违者必究!

本文为作者授权未央网发表,属作者个人观点,不代表网站观点,未经许可严禁转载,违者必究!

本文版权归原作者所有,如有侵权,请联系删除。

评论


猜你喜欢

扫描二维码或搜索微信号“iweiyangx”
关注未央网官方微信公众号,获取互联网金融领域前沿资讯。