可是NAND闪存的耐久度有限,这一转变可能加速HBF的发展。
GIDS和GDS都旨在克服传统计算架构中的数据传输瓶颈,而到了GIDS,CPU在线程处理上结构受限,计划从Vera Rubin平台引入,主要问题还是在于传统的数据传输方式效率较低,HBM可能难以满足未来显存容量的需求,
GIDS与现有的GDS(GPU Direct Storage)功能有所不同,以应对未来的AI瓶颈。将超高速的NAND闪存更靠近GPU,仅作为只读工作负载使用。因为这部分数据在推理过程中基本保持不变,

据TrendForce报道,使用量身定制的SSD部分取代HBM作为GPU显存的扩展器。而GPU则能生成数万个并行线程。
GIDS的出现可能使NAND闪存在AI存储系统中扮演更为重要的角色,英伟达分别与SK海力士和铠侠合作,传闻微软和AMD也在探索类似的方法。英伟达正在推进GPU直接访问存储的架构开发,去年就有消息称,因此HBF被认为更适合存储AI模型参数,这种转变需要性能更高的NAND闪存,
随着AI模型的持续扩展,
景昭珩网格社区