首页 > 科技 > 正文
Qzone
微博
微信

美光芯片技术驱动AI发展:应对端侧与云端数据挑战,提供高性能内存与存储解决方案

科技 TOM    2025-10-27 15:53

在当今技术快速迭代的世界中,人工智能(AI)正在对各行各业带来深刻变革。无论是移动设备、个人电脑还是汽车领域,内存和存储在端侧设备上运行AI工作负载的关键作用日益凸显。美光科技深刻理解,尽管图形处理器(GPU)、张量核(Tensor Core)和神经网络处理单元(NPU)等计算单元至关重要,但AI工作负载在耗尽计算资源之前,往往会首先遭遇内存瓶颈。为此,美光业界前沿的内存和存储解决方案专为满足这些严苛的端侧数据需求而设计,以保障卓越的性能、效率与可靠性。

美光芯片技术驱动AI发展:应对端侧与云端数据挑战,提供高性能内存与存储解决方案

端侧设备AI工作负载的兴起,为内存和存储制造商带来了广阔的市场机遇。根据Gartner的预测,到2025年,支持生成式AI的端侧设备硬件支出将实现99.5%的增长,达到39亿美元。作为DRAM和NAND技术领域的前沿企业,美光在AI生态系统中扮演着关键角色,已充分准备好把握这一市场机遇。

当深入思考AI在云端及端侧设备(包括AI PC、自主机器人、汽车以及手机等)中的发展前景时,有几个核心要点值得关注。

首先,随着AI推理任务逐步迁移至端侧设备,其效率将得到显著提升,从而加速AI应用的普及。在端侧设备上运行AI推理具有多重优势,包括有效降低延迟、增强用户隐私保护,并减少对网络连接的依赖。通过在本地直接处理数据,而非将其上传至云端服务器,端侧设备能够实现更快速、响应更灵敏的AI应用体验。以自动驾驶技术为例,过去车辆在很大程度上依赖云端服务器来处理传感器数据,这可能导致决策响应的延迟。如今,借助端侧AI技术,车辆能够在本地实时处理数据,无需等待云端响应即可立即做出驾驶决策。这一关键转变有望推动AI技术在各行各业的广泛应用,实现实时决策,并显著提升用户体验。当消费者能够在自有设备上享受到有价值的AI体验时,这项技术的普及率将得到大幅提升。

其次,尽管端侧计算正在蓬勃发展,但云端在AI生态系统中仍将占据关键地位,分布式AI模型将成为主流发展趋势。融合端侧计算与云计算的分布式混合模型,正日益成为处理AI工作负载的理想解决方案。在这种模式下,云端将继续承担大规模数据处理、复杂模型训练和集中管理等核心任务,而端侧设备则专注于实时推理和本地化数据处理。这种混合模式能够充分发挥端侧与云端各自的优势,提供灵活性、高效性和可扩展性。此外,代理式AI(即无需人工干预即可自主做出智能决策的AI系统)有助于无缝整合端侧与云端环境,从而优化整体性能表现、增强系统安全性并确保资源的高效分配。简而言之,AI代理可以驻留在手机、PC或汽车等终端设备中。当遇到无法完全解答的问题时,它会自动向云端或数据中心中更复杂、更专业的AI模型寻求答案,然后为用户返回更精准的响应。因此,端侧设备仍将依赖AI数据中心和云计算处理特定任务,但并非所有AI推理都需要云端参与。

第三,端侧与云端协同运作的AI模式,正在带来终极数据挑战。在端侧和云端双重环境中管理AI工作负载,带来了独特的数据处理难题。海量的多样化数据加上对实时处理的严苛需求,亟需创新的解决方案。美光前沿的内存和存储技术应运而生,能够为这些复杂的AI数据工作负载提供所需的卓越性能、可靠性和效率。内存瓶颈是一个重大问题,尤其在模型训练和推理阶段表现突出。美光的高带宽内存(HBM3E)可有效缓解云端的内存瓶颈,而LPDDR5X则为端侧设备提供了高带宽与高能效的解决方案。这些技术可确保AI应用在端侧设备与云端之间流畅高效地运行。美光全系列产品的客户都依赖美光的优势地位与专业积淀,来有效应对这些数据挑战。

第四,内存和存储对端侧设备及云端而言,其重要性达到了前所未有的高度。随着AI模型日趋复杂,它们对内存和存储容量的需求与日俱增。无论是端侧设备还是云端基础设施,都需要支持这些不断扩展的模型,同时不能以牺牲性能为代价。美光的内存和存储解决方案专为满足这些需求而设计,可提供AI应用所需的大容量与高速度。美光的产品基于业界前沿制程节点,能效表现卓越,其中采用美光前沿1γ制程节点的产品在竞争中脱颖而出。对于AI数据中心而言,高带宽内存(HBM3E和HBM4)能有效突破AI加速面临的内存墙限制。为实现更佳性能,AI数据中心需要构建完整的内存与存储层级架构,包括高密度DDR5模块、LPDDR5X、采用美光CZ122的CXL扩展内存池、采用美光9550 NVMe™ SSD的本地SSD数据缓存,以及采用美光6550 ION的联网数据湖。同样,端侧设备也需要专用内存与存储解决方案,例如专为手机设计并凭借低功耗和高带宽特性拓展至AI PC及汽车应用的低功耗DRAM (LPDDR5X)。通用闪存 (UFS 4.0)、PCIe 5.0 SSD(如美光4600 NVMe SSD)以及4150AT集中式存储SSD解决方案,可确保AI应用无论在端侧设备还是在云端都能流畅高效地运行。

最后,应对所有数据挑战无需独自前行,美光始终与客户同行。凭借逾45年的深厚积累,美光已成为手机制造商、PC OEM厂商和汽车制造商值得信赖的合作伙伴。美光在内存与存储解决方案领域拥有出类拔萃的专业实力,致力于助力客户实现AI目标。深厚的行业积淀与持续创新的产品体系,使美光成为解决棘手AI数据挑战、把握加速AI发展新机遇的理想合作伙伴。美光致力于携手共进,攻克AI技术难题,推动智能科技蓬勃发展。随着AI持续演进,内存与存储在端侧应用及设备中的重要性不容忽视。无论是手机、PC和汽车领域的企业,还是工业AI与机器人行业的先行者,都必须优先考虑这些核心器件,方能确保其AI工作负载的成功运行。美光始终提供快速、高效、可靠的解决方案,为这些企业提供助力。美光的技术不仅能存储数据,更能将数据转化为切实可行的智能洞察,加速价值兑现。

 

责任编辑: WY-BD

责任编辑: WY-BD
人家也是有底线的啦~
广告
Copyright © 2018 TOM.COM Corporation, All Rights Reserved 新飞网版权所有