...................................................................................................64 4.3 PIPC 机器视觉产品推荐 ............................................................................... 锐炬® X e 显卡 D 96 2 16 (CPU) 12 (PCH) DDR5- 4800 LPDDR5- 5200 DDR4- 3200 LPDDR4x- 4267 64 GB 45W （基础 功率） 35W （最小 保证 功率） 英特尔® 酷睿™ i5- 12600HE 处理器 12 4 8 16 18 MB 高达 4.5 高达 3.3 2.5 (CPU: 1x8 PCIe 5.0) 20 (PCIe 4.0) DDR5-5600 LPDDR5- 6400 LPDDR5x- 6400 LPDDR5x- 7467 64 GB 否 否 65 W （最大 保证功耗） 28 W （基础功耗） 20 W （最小 保证功耗） 英特尔® 酷睿™ Ultra 7 处理器 155H 16 6 8 2 22

5B/7B/14B √ √ 配套版本上线昇腾社区： https://www.hiascend.com/software/modelzo o/models/detail/678bdeb4e1a64c9dae51d35 3d84ddd15 配套版本上线魔乐社区： https://modelers.cn/models/MindIE/deeps eekv3 DeepSeek 需要采用 Atlas 800I/T A2 （ 8*64GB ） 4 机并行 X4 Atlas 800I A2 (8*64GB ） 最小配置为 4 机并行 采 用 Atlas 8 0 0 T A2 时 亦 需 4 机 并 行 采用 INT8 数据格式进行推理， 需要内存 <700GB ，可 2 机并行 X2 Atlas 800I A2 (8*64GB ） 最小配置为 2 机并行 采 用 本地部署推理最低配置 当前支持情况 1 DeepSeek-V3 2024.12.16 MOE,671B 4*Atlas800I A2 （ 8 卡， 64GB ） 2 DeepSeek-R1 2025.2.26 MOE,660B 4*Atlas800I A2 （ 8 卡， 64GB ） https://modelers.cn/models/MindI E/deepseekR1 3 DeepSeek-R1-Distill-

⚫ 复杂推理：像学霸解数学题一样处理逻辑难题（R1 模型） ⚫ 多模态融合：能理解文字、图片、文件等多种信息（未来还将支持语音和视频） ⚫ 超长上下文：一口气读完 3-4 万字的长文档（64Ktoken 容量） 技术架构： ⚫ MLA 多头潜在注意力：像多线程处理信息，显存占用降低 50%，适合普通电脑运 行 ⚫ MoE 混合专家系统：遇到问题自动召唤“专业团队”，比如数学题找数学专家模

精细化编排计算和通信 ➢ 控制前向和反向过程中 计算和通信的GPU SM 数量，保证计算和通信 完全重叠 ➢ 双向流水线并行 ➢ 降低流水线的Bubble ➢ 需要存两份模型参数 ➢ 64路的专家并行 [1] DeepSeek-V3 技术报告 https://arxiv.org/pdf/2412.19437v1 双向流水线并行 计算和通信重叠 气泡和内存分析 72 拓展分析：