HBM概念

HBM是一种新兴的DRAM解决方案，通过堆叠内存芯片，形成高带宽的存储系统。HBM以位元计算，通过增加带宽，扩展内存容量，让更大的模型、更多的参数留在离核心计算更近的地方，从而减少内存和存储解决方案带来的延迟，目的实现大容量，高位宽的DDR组合阵列。