资讯
天价内存把大厂逼成垃圾佬!拆退役服务器抠DDR4用
📋总体概括
谷歌供应链高级总监Nikhil Cherian透露,AI行业已从算力受限转向内存受限,高性能内存占单台AI服务器物料成本约75%。DRAM供应紧张迫使谷歌建立内部回收供应链,专门设计转接器,把退役服务器拆解出的DDR4内存装回本应用DDR5的新一代AI服务器,同时通过KV Cache压缩等软件手段降低内存消耗,并推出TPU8t、TPU8i两款自研芯片。大厂抠旧内存的举动,凸显DRAM供应瓶颈已成AI扩张的最大约束之一。
⚡关键信息
- ▸谷歌透露AI行业已从算力受限转向内存受限,高性能内存占AI服务器物料成本约75%
- ▸谷歌建立内部回收供应链,设计转接器让新一代AI服务器降级使用退役服务器拆出的DDR4内存
- ▸软件端谷歌持续优化底层函数库、模型架构和KV Cache压缩,降低单位算力内存消耗
- ▸谷歌今年推出TPU8t(训练)和TPU8i(推理)两款ASIC,TPU8i单芯片配288GB HBM3e、8.6TB/s带宽及384MB片上SRAM
🔥犀利点评
当谷歌这种现金巨头都要拆旧服务器抠DDR4用,说明内存瓶颈不是炒作而是真卡脖子。75%的物料成本占比意味着AI竞争的命脉已从GPU转向DRAM供应,涨价的不是技术而是稀缺。自研TPU和回收旧内存双管齐下,本质都是在绕开内存厂商的定价权——存储厂这波吃到的红利,怕是要持续到新产能真正落地为止。
📰 相关资讯(与本文相关的其他资讯)
本文由本站自动聚合,以下为原始来源:前往 驱动之家 阅读全文 →