在西部数据近日举办的投资者日上,SanDisk展示了其最新研发的高带宽闪存(HBF),这是一种专为 AI 领域设计的新型存储器架构,结合了3D NAND闪存和高带宽存储器(HBM)的特性,旨在满足大规模 AI 模型的存储和推理需求。
HBF 的核心技术特点:
HBF 使用硅通孔(TSV)技术堆叠了 16 个 3D NAND BiCS8 芯片,并配备一个逻辑层,能够并行访问存储器子阵列,这种设计使得每个堆栈的容量可比当前的 HBM 实现高出 8 到 16 倍。
使用八个 HBF 堆栈的系统可以提供高达 4TB 的 VRAM,足以将大型 AI 模型(如 GPT-4)直接存储在 GPU 硬件上,这种高容量特性使得 HBF 特别适合存储和运行大规模 AI 模型。
HBF 打破了传统的 NAND 设计,实现了独立访问的存储器子阵列,超越了传统的多平面方法,这种设计提高了存储器的并行访问能力,从而提升了带宽和吞吐量。
HBF延迟高于DRAM,因此更适合读取密集型的AI推理任务,而不是延迟敏感型应用。目前,SanDisk 尚未公布 HBF 的具体带宽数据。
SanDisk 尚未公布针对 NAND 固有写入耐久性限制的具体解决方案,但使用 pSLC NAND 可以在耐用性和成本之间取得平衡。