一台跑不动就上16台！英伟达DGX Spark集群成功跑通Kimi K3：生成速度达38 t/s

📋总体概括

英伟达开发者论坛用户ciprianveg公布本地算力测试：将16台DGX Spark组网成集群，在Inferact/Kimi-K3-DSpark分布式环境下成功跑通完整Kimi-K3大模型，16000深度下最高生成速度达38 t/s。网络侧采用MikroTik CRS804-4DDQ核心交换机加4根400G转4×100G分支线缆串联全部GB10节点。该测试表明单台桌面设备难以承载千亿参数模型时，可通过堆叠节点的方式实现本地部署，但代价与效率值得掂量。