本文共字，预计阅读时间。

【端侧AI技术现状】

端侧AI技术在手机、PC、汽车等领域的应用不断拓展。这类技术将AI工作负载部署在本地设备上，而非完全依赖云端处理。据Gartner预测，2025年支持生成式AI的端侧设备硬件支出将增长99.5%，达到39亿美元。

在技术实现层面，端侧AI推理可带来缩短网络延迟、加强隐私保护、减少对网络连接的依赖、降低运营成本、提高能效等特点。通过在本地处理数据，而非将数据发送到云端，端侧设备可提供速度更快、响应更灵敏的AI体验。本地数据处理还可避免在端侧设备与云端之间不断地来回传输大量数据集。

【内存技术在端侧AI中的作用】

内存瓶颈在模型训练和推理阶段是一个重大问题。高带宽内存(HBM)可有效缓解云端的瓶颈，而美光LPDDR5X则为端侧设备提供了高带宽与高能效。这些内存技术可确保AI工作负载能高效快速执行，无论它们位于端侧还是云端。

在端侧设备中，LPDDR5X等低功耗DRAM可提供实时处理所需的带宽，而快速、高效的存储可用于处理模型数据和推理结果。随着AI模型日趋复杂，它们对内存和存储容量的需求与日俱增。无论是端侧设备还是云端基础设施，都需要支持这些不断扩展的模型。

美光的产品基于业界前沿制程节点，能效表现卓越，其中采用美光前沿1γ制程节点的产品更在业界同类产品中脱颖而出。从端侧AI到物联网设备，各行各业的客户都依靠美光的优势地位与专业积淀，来有效应对这些数据挑战。

【端侧与云端协同的分布式模型】

融合便捷端侧计算与大规模云计算的分布式模型，正成为AI工作负载的理想解决方案。代理式AI(即无需人工干预即可自主做出智能决策的AI系统)进一步加强了端侧与云端的协同，可优化性能表现、增强安全性并确保资源的高效分配。

AI代理可驻留在终端设备中，当遇到无法完全解答的问题时，它会立即向云端或更复杂、更专业的AI模型寻求答案，然后为用户返回更精准的响应。这种协同方式通过大规模创建结构化和规范化的AI数据，来实现端侧与云之间的无缝协作。

【应用场景与产品配置】

随着AI持续演进，内存与存储在端侧应用及设备中的重要性不容忽视。无论是手机、PC和汽车领域的企业，还是工业与机器人行业的先行者，都必须优先考虑这些核心器件，方能确保其AI工作负载的成功运行。

端侧智能设备需要均衡的内存和存储组合配置，以保持AI工作负载的持续响应。美光的节能型内存和存储解决方案组合能够在各类端侧设备上实现AI，包括汽车、智能手机、PC等。美光始终提供快速、高效、可靠的解决方案。

美光的技术不仅能存储数据，更能将数据转化为切实可行的智能洞察。在端侧和云端双重环境中管理AI工作负载带来了独特的数据挑战，美光的内存和存储解决方案专为满足这些需求而设计，可提供AI应用所需的大容量与高速度。

[Source]

本文系未央网专栏作者发表，属作者个人观点，不代表网站观点，未经许可严禁转载，违者必究！

本文为作者授权未央网发表，属作者个人观点，不代表网站观点，未经许可严禁转载，违者必究！

本文版权归原作者所有，如有侵权，请联系删除。