消息称美光正探索开发近GPU NAND闪存以运行更大的LLM

📋总体概括

据新浪财经报道，美光正探索开发「近GPU NAND」架构，将高耐久性NAND闪存模块部署在GPU附近，用于处理无需HBM或常规DRAM级别带宽与延迟的工作负载。该方案牺牲部分密度，重点提升I/O速度、带宽和读取速度，使GPU能直接访问数百GB存储池，从而突破LLM的内存容量限制，为AI推理场景提供HBM之外的低成本扩展路径。