华为昇腾DeepSeek解决方案支持 2 级框盒、框框组网,适用于大规模及超大规模集群 3 、 AI 任 务信 息 任务、通信域 … 1 、控制器获取网络拓扑, 下 发路径 信息 2 、 AI 任 务调 度 以全部通信关系和拓扑信息作为输入 通过算法计算出最优结果,实现 AI 参数面全网负载均衡 算网协同 • 网络级负载均衡:独家 NSLB 算法, 算网协 同 调度,多任务节点非连续组网情况下,通信 带宽 、模型性能提升 7% 算存协同 • 极致读写性能: CKPT 等算存读写协同优化、 PB 级存取 +TB 级带宽,数据读取效率提升 50% 大规模组网 • 超大组网规模: 2 层 1:1 无收敛的 AI 网络架构, 最 大支持 128K 集群规模组网,千卡到万卡平滑 演进 千亿稠密 / 万亿稀疏 A2 ) 4 台 *8 口 *200GE 样本面(可选) CE9860 8*25GE 带外管理面( BMC 管理可选) CE5882 4*GE DeepseekV3/R1 模型本地化部署组网 方案 图 例 400G 200G 25G GE 100G 10G DeepSeek R1/V3 推理配置建议 BF16 最小配置 4 台计算节点; INT8 最小配置0 积分 | 32 页 | 2.52 MB | 5 月前3
共 1 条
- 1
