资讯
押注开源推理!英伟达携手Equinix、Together AI推出企业AI推理方案
📋总体概括
英伟达联合数据中心服务商Equinix和开源推理平台Together AI,在企业AI推理市场推出分布式推理服务Equinix Inference Exchange。该服务把推理任务调度至分布不同地域的服务器,让算力贴近企业本地数据,计划2027年第一季度上市。三方分工明确:Equinix提供电力、制冷与互联底座,英伟达输出企业级参考架构与AI硬件,Together AI在顶层运行推理服务。方案瞄准降低时延、用开源模型控成本、满足数据不出境合规三类企业需求。
⚡关键信息
- ▸英伟达携手Equinix、Together AI推出分布式AI推理服务Equinix Inference Exchange,面向企业用户
- ▸该服务于Equinix Horizon大会发布,计划2027年第一季度正式上市
- ▸分布式推理指把任务拆分调度到不同地域多台服务器协同计算,让推理能力贴近企业本地数据
- ▸三方分层互补:Equinix提供电力制冷运维与Fabric互联,英伟达提供算力与企业参考架构,Together AI运行顶层推理
- ▸方案瞄准三类需求:降低时延、从封闭模型迁移开源模型控成本、满足监管行业数据不出境要求
🔥犀利点评
这盘棋的野心不在推理本身,而是英伟达在训练红利见顶后对推理市场的一次卡位——把开源模型+分布式推理打包成企业级方案,等于顺手给闭源API模式挖墙脚。但2027年才上市,两年窗口期里云巨头和主权AI项目早把推理市场切完了,三方联盟看着互补,实则谁都不想只当配角,落地成色存疑。
📰 相关资讯(与本文相关的其他资讯)
本文由本站自动聚合,以下为原始来源:前往 财联社深度 阅读全文 →