资讯
HBM被降维打击!美国发布垂直堆叠3D-DRAM AI芯片:100TB/s带宽、能效超13.5倍
📋总体概括
美国AI芯片初创d-Matrix在Hot Chips 2026上发布Raptor 3D-DRAM生成式AI推理加速器,采用台积电N4逻辑裸片与3D-DRAM面对面堆叠架构,将内存直接置于计算芯片下方。单卡配备32GB 3D-DRAM、带宽超100TB/s,远超192GB HBM4配置的约18TB/s;垂直IO实测仅0.37pJ/bit,约为HBM方案的十分之一,每GB/s功耗2.96mW,较HBM方案的40mW改善13.5倍,单位面积带宽达HBM4的约20倍。该架构瞄准AI推理场景,直指HBM内存墙瓶颈。
⚡关键信息
- ▸d-Matrix发布Raptor加速器,采用台积电N4逻辑裸片与3D-DRAM面对面堆叠架构
- ▸单卡32GB 3D-DRAM、带宽超100TB/s,由8个chiplet组成,单个chiplet提供4GB和约12.5TB/s
- ▸对比192GB HBM4带宽仅约18TB/s,Raptor单位面积带宽32.6GB/s/mm²,约为HBM4和英伟达Rubin R200的20倍
- ▸垂直IO实测0.37pJ/bit,约为HBM方案十分之一;每GB/s功耗2.96mW,较HBM的40mW改善13.5倍
- ▸该产品定位生成式AI推理加速,绕开HBM路径重构内存与计算关系
🔥犀利点评
100TB/s对18TB/s,这不是迭代是换赛道。d-Matrix用3D堆叠把内存搬到计算裸片脚下,直接绕过HBM的封装墙,能效13.5倍的差距让HBM路线在推理场景瞬间显得笨重。但要看清两点:32GB容量对动辄几百GB显存需求的大模型推理是硬伤,且3D堆叠良率与散热能否量产仍是未知数。HBM不会被杀死,但推理芯片的规则可能就此改写,SK海力士和英伟达该睡不着了。
📰 相关资讯(与本文相关的其他资讯)
本文由本站自动聚合,以下为原始来源:前往 驱动之家 阅读全文 →