SK海力士与闪迪发布面向推理AI服务器的高速HBF标准

近期,AI产业正从专注于构建大语言模型(LLM)的训练阶段,转向面向用户加速实际AI服务的推理阶段。随着使用AI服务的用户数量快速增长,快速且高效的存储器变得至关重要。然而,现有的存储架构无法在推理阶段同时满足高容量数据处理和功耗效率的需求,而HBF技术正是为解决这些局限性而设计的。HBF技术是介于超高速存储器HBM与大容量存储设备SSD之间的新型存储层。HBF技术能够填补HBM的高性能与SSD的大容量之间的空白,同时确保AI推理所需的容量扩展和功耗效率。在HBM负责高层级带宽的同时,HBF技术在架构中充当支撑层。
特别是,HBF技术有望在提升AI系统可扩展性的同时降低总体拥有成本(TCO)。行业预测,包括HBF在内的复杂内存解决方案需求将在2030年左右开始增长。
在AI推理市场,能够提供HBM和HBF的完整内存解决方案公司的角色正变得愈发重要,因为CPU、GPU和内存的系统级优化决定了整体竞争力,而非单一芯片的性能。

基于此,SK海力士和闪迪正基于双方在HBM和NAND领域的设计、封装及量产经验,积极推进HBF解决方案的标准化和商业化。
"AI基础设施的关键在于超越单项技术的性能竞争,实现整个生态系统的优化,"SK海力士总裁兼首席开发官安炫(Ahn Hyun)表示,"通过HBF技术标准化,公司将建立协作体系,并呈现面向AI时代优化的内存架构,为客户和合作伙伴创造新价值。"
