1. DRAM架构演进与高性能计算需求
现代计算系统面临的核心瓶颈已经从计算单元本身转向了内存子系统。DRAM作为主流动态随机存取存储器,其架构优化直接决定了数据供给能力。传统DDR架构在应对AI训练、科学计算等数据密集型负载时暴露出三个根本性限制:
- 带宽墙:传统并行总线架构受限于引脚数量和信号完整性,DDR5-6400的理论带宽仅51.2GB/s(64位总线)
- 能效比:内存访问能耗可占系统总功耗的40%以上,主要来自频繁的行激活(ACT)操作
- 访问粒度:最小读写单位通常为64B Cache Line,导致细粒度访问时带宽利用率低下
针对这些挑战,工业界和学术界发展出三大技术路线:
- 立体堆叠 :通过硅通孔(TSV)实现垂直集成,代表为HBM(High Bandwidth Memory)。以HBM3E为例,16-Hi堆叠可实现1280GB/s带宽,是DDR5的25倍
- 异构集成 :将计算单元嵌入存储阵列,即PIM(Processing-in-Memory)。如NeuPIMs架构在DRAM Bank中集成NPU核,使LLM推理吞吐提升3.8倍
- 动态粒度 :支持可变大小的数据访问单元,如Sectored DRAM可独立激活32B子阵列
典型案例:SK海力士HBM4采用12层堆叠与混合键合技术,逻辑接口能效达0.88pJ/b,比HBM3提升23%
2. HBM关键技术解析
2.1 3D堆叠实现原理
HBM的核心创新在于通过TSV实现纵向集成。以JEDEC HBM3标准为例:
- Bank Group划分 :每个Die分为16个Bank Group,组内Bank共享命令总线但独立数据通路
- <
264



被折叠的 条评论
为什么被折叠?



