在云端和边缘环境中,AI工作负载正变得越来越复杂、持久且数据密集。因此,能效变得与计算性能同等重要,AI系统需要在日益受限的功耗和散热预算内提供更强的能力。
在此背景下,LPDDR正在超越其在移动设备中的传统角色。三星正将LPDDR技术扩展到更广泛的AI计算环境中——从将处理能力直接集成到内存中的LPDDR-PIM,到基于LPDDR的AI基础设施模块化解决方案SOCAMM2。
与此同时,移动计算也在快速发展。端侧AI正从独立的功能走向多模态交互,以及能够在较长交互过程中保持上下文联系的AI代理。这些体验对移动系统在严格的功耗限制下传输和管理数据的效率提出了新的要求。
三星LPDDR6正是基于这些行业转变而开发的,它结合了在性能、能效和可靠性方面的进步,以支持日益复杂的移动AI体验。
确保AI工作负载的数据持续流转
在LLM(大语言模型)推理过程中,系统在生成响应时会反复访问庞大的模型权重和KV缓存数据。随着模型不断变大以及交互时间变长,内存和处理器之间高效的数据传输变得越来越重要。
三星LPDDR6通过提高单引脚I/O速度和扩展I/O架构来应对这一挑战,可提供高达114GB/s的内存带宽。这有助于缓解数据传输瓶颈,并使系统能够更高效地访问AI处理所需的数据,从而支持响应更迅速的端侧AI体验。
但仅有更高的带宽是不够的。端侧AI工作负载可能会在密集型和轻量型处理之间快速切换,这使得高效的功耗管理和可靠的运行同等重要。
平衡性能、功耗与可靠性
三星LPDDR6引入了动态电压和频率调节(DVFS)以及动态能效模式(DEM),以在工作负载需求变化时实时优化功耗。DVFS根据性能需求动态调整工作电压和频率,而DEM则在利用率较低的期间减少不必要的功耗。与上一代LPDDR5X相比,这些技术共同将能效提升了高达21%。
这种自适应方法使LPDDR6能够将功耗与工作负载强度更紧密地匹配,有助于在不必要地消耗峰值功率的情况下维持性能。
随着内存活动加剧,可靠性变得越来越重要。LPDDR6整合了逐行激活计数(PRAC)技术,该技术可监控特定内存行的重复激活,并帮助管理与这些激活模式相关的潜在数据干扰。这种额外的保护支持在复杂的多模态处理和长时间的端侧AI代理活动中保持可靠的内存运行。
在高通骁龙平台上实现业界首次验证
将一种新的内存技术引入移动平台,需要的不仅仅是组件级的进步。内存必须与SoC(系统级芯片)和系统架构一起进行优化和验证,以确保其能够满足平台级对性能、能效和可靠性的要求。
三星已成功在高通公司的骁龙8 Elite Extreme Gen 6平台上验证了其16GB LPDDR6,运行I/O速度高达10.7Gbps。这一成就标志着业界首次在高通下一代移动平台上完成LPDDR6验证。
这一里程碑反映了三星与高通从开发初期开始的密切工程合作。它证明了三星LPDDR6能够满足先进移动平台的需求,并突显了两家公司在推进内存技术以应对要求更高的端侧AI工作负载方面的持续努力。
三星电子内存业务产品规划团队副总裁Jangseok Choi表示:“继三星开发出业界首款LPDDR6之后,我们很自豪能够在高通的下一代移动平台上成功完成LPDDR6的采样和验证。这一成就证明了我们LPDDR6的技术领先地位和产品就绪程度。通过与高通密切合作,我们将继续推进高性能、低功耗的内存解决方案,为下一代AI设备赋能。”
高通公司产品管理副总裁Salman Saeed表示:“三星LPDDR6内存成功在骁龙8 Elite Extreme Gen 6上通过验证,彰显了高通与三星在推进下一代移动技术方面的紧密合作。LPDDR6提供了支持日益复杂的端侧AI体验所需的带宽和能效,随着我们继续推动整个移动生态系统的创新,我们很高兴能够实现这一业界首创的里程碑。”


VIP复盘网