8月27日,英伟达推出定制高带宽内存NVHBM,作为NVLink Fusion项目的新基础组件,并宣布亚马逊旗下Annapurna Labs成为其首个合作伙伴。
英伟达表示,NVHBM采用定制HBM基础裸片,将内存控制器从主加速器裸片转移到HBM堆栈中,相比标准HBM4e,每个内存堆栈带宽最高提升30%,功耗降低15%,并可为厂商释放封装空间,在主硅裸片上最多增加30%计算资源。
NVHBM已与领先内存厂商完成设计和验证,并非HBM替代品,而是面向定制芯片合作伙伴提供的组件。Annapurna Labs副总裁Nafea Bshara表示,期待通过合作给未来AWS基础设施设计带来助益。该公司的下一代Trainium 4 AI芯片已支持NVLink Fusion接口,后续芯片很可能支持NVHBM。
