扫描分享
本文共字,预计阅读时间。
美光 LPDDR5X 内存基于第二代 1β(1-beta)节点制造,传输速率高达每秒 9.6 Gbps,较上一代产品速率提升 10%。该内存针对 AI 场景中的高速数据处理需求设计,支持在应用程序间流畅切换和高效多任务处理,为端侧大语言模型推理提供所需的数据吞吐带宽。功耗控制方面,美光 LPDDR5X 可节省高达 25% 的功耗,为持续运行的 AI 推理负载提供能效保障。
内存和存储对于AI体验的实现至关重要,数据处理作业正从单纯依赖云计算向端侧直接执行转变。在设备端运行完整的AI功能,需要性能更强且容量充足的内存与存储,以容纳大型语言模型及不断增长的数据,并为计算提供足够的数据传输能力。美光UFS 4.0存储解决方案提供大容量本地闪存,使端侧设备可以直接存储AI分析和生成的大型数据集而无需回传云端。
这一端侧架构可让更多 AI 分析和生成数据保留在设备本地,减少对外部服务器的依赖,并有助于保护个人数据安全与隐私。美光企业副总裁暨手机和客户端业务部门总经理 Mark Montierth 指出,高性能、低功耗的内存和存储创新对于释放端侧 AI 全部潜力具有关键作用。Motorola Razr 60 Ultra 集成了 AI 问答、照片增强、文本转视觉创作、虚拟人像生成以及个性化通知摘要等能力,单次充电续航超过 36 小时。
Motorola 产品研发副总裁 Leo Liu 表示,在紧凑机身内实现流畅 AI 体验,要求内存同时兼顾性能与能效,与美光科技的长期技术合作是达成这一目标的基础。从 AI 基础设施的视角看,端侧推理对内存带宽和容量的需求会随大型语言模型及数据量增长;在数据中心,HBM 堆栈则以 TB/s 级带宽支撑 AI 训练与推理。
在边缘和端侧,LPDDR 系列则以更低的功耗包络提供可观的带宽密度,使计算资源有限的设备也能独立完成推理。这种云端训练与端侧推理协同的架构,对内存产品线提出了覆盖高带宽、大容量和低功耗三个维度的要求。美光 LPDDR5X 在 1β 节点上实现的 9.6 Gbps 速率和 25% 功耗优化,验证了 DRAM 制程在性能与能效之间取得平衡的可行性。
端侧AI需要内存和存储共同提供容量、能效、速率和性能支持。Motorola Razr 60 Ultra搭载美光LPDDR5X和UFS 4.0方案,可在设备上存储AI分析和生成的数据以及常用应用内容。具体模型文件、缓存方式和加载速度仍取决于终端平台与软件实现。
美光将 LPDDR5X 和 UFS 4.0 作为配对方案提供给设备制造商,使计算和存储两个子系统在 AI 负载下的性能表现能够协同优化。
Q: 美光 LPDDR5X 基于 1β 节点的速率和功耗表现如何?
A: 基于第二代 1β 节点的 LPDDR5X 传输速率达每秒 9.6 Gbps,较上一代提升 10%,功耗可节省高达 25%。
Q: 端侧 AI 设备为什么需要大容量内存和存储?
A: 在端侧运行大型语言模型需要内存提供足够带宽,同时需要本地存储容纳模型和AI生成的数据,以减少云端依赖。具体模型文件、缓存方式和响应速度仍取决于终端平台与软件实现。
Q: 美光 UFS 4.0 在 AI 设备中承担什么角色?
A: UFS 4.0 提供大容量本地闪存,使设备可以直接存储 AI 分析和生成的数据,保障数据安全和隐私,同时降低对云端的依赖。
Q: Motorola Razr 60 Ultra 的 AI 功能是如何运行的?
A: 该设备搭载美光 LPDDR5X 和 UFS 4.0 方案,运行基于 LLM 的 Moto AI,集成了 AI 问答、照片增强、文本转艺术创作、虚拟人像生成等功能,续航超 36 小时。
Q: LPDDR5X 的技术路线如何影响后续产品?
A: 第二代1β(1-beta)LPDDR5X将传输速率提升至9.6Gbps,较上一代提升10%,功耗可节省高达25%;后续1γ LPDDR5X进一步达到10.7Gbps,并在移动AI测试中展现更快响应。产品路线体现了速率、能效和封装持续改进的方向。
Q: 云端训练和端侧推理对内存产品线提出了怎样不同的要求?
A: 不同计算平台对内存的要求应以对应产品规格和平台验证结果为准。当前移动端案例中,美光LPDDR5X与UFS存储方案为Moto AI提供容量、能效、速率和性能支持;云端训练平台所需的内存形态和配置则应依据服务器及加速器平台公开信息确定。
非常感谢您的报名,请您扫描下方二维码进入沙龙分享群。
非常感谢您的报名,请您点击下方链接保存课件。
点击下载金融科技大讲堂课件本文系未央网专栏作者发表,属作者个人观点,不代表网站观点,未经许可严禁转载,违者必究!
本文为作者授权未央网发表,属作者个人观点,不代表网站观点,未经许可严禁转载,违者必究!
本文版权归原作者所有,如有侵权,请联系删除。
京公网安备 11010802035947号