计算与通信优化，性能提升 30% GRPO ：群体进化的智慧筛选器 自我验证机制： AI 的 " 错题本系 统 " 混合专家模型的 " 智能路由器“ 多头潜在注意力 MLA ：空间压缩术 训练框架加速： 16 到 3 的量化压 缩， 通信降低 89% 推理加速：预加载，动态批处理等 模型、数据、工具链、部署全开源 蒸馏技术使能第三方模型性能 DeepSeek V3 ：实现极致性能，稀疏 MOE 提质 双向管道训练 ，需要存两份参数来进行训练（ Parameter 2x ） • 模型总参数量 671B ，每个卡上 4 个 routed expert 对应 26.8B ， 同时 考虑到 PP-16 和 FP8 量化 ，每个卡上显存占用为 1.675GB 参考 DualPipe 技术，基于 MindSpeed 训练加速框架以及昇腾硬件特性，针 对 性地设计高效率流水并行技术，提升整体训练性能 降低学习复杂度 简化强化学习流程 降低后训练复杂度 推理优化 单次推理效率倍级提升 一次预测多个 token 推理倍级提升 FP16/BF16 1 前 1 后单流水 需要裁判模型评估 1 次 1token 预测 MHA/GQA 分组共享减少缓存 GPT4 16 专家选 2 FP8 混合精度 双向流水并行 新老策略组队评估 1 次多 Token 预 测 MLA 低秩压缩减少缓存 DeepSeekMoE

5。近年来，相关市场融资总量亦达数百 亿元，涵盖了 K12 阶段教育、职业培训、学前教育等不同的 教育细分领域 6。 1《教育信息化 2.0 行动计划》http://www.moe.gov.cn/srcsite/A16/s3342/201804/t20180425_334188.html 2 坚持以建设高质量教育体系为统领 谋划推动 “十四五” 时期教育发展， http://www.scio.gov.cn/x 数据援引自工业与信息化部人才交流中心发布的《人工智能产业人才发展报告（2019-2020 年版）》一文 产业 分析 课程 建设 就业 认证 综合 实训 算法领域 技术领域 应用领域 感性引导 兴趣实践 创新应用 17 16 实 战 篇 实 战 篇 英 特 尔 中 国 教 育 行 业 AI 实 战 手 册 英 特 尔 中 国 教 育 行 业 AI 实 战 手 册 图 2-1-3 人工智能教育的不同阶段 图 1 2 24 … 25 26 6 48 … Intel® UPI 4x16 PCIe 4x16 PCIe DMIx4 DMIx4 模型训练 模型训练 模型训练 模型训练 模型训练 模型训练 模型训练 DMIx4 DMIx4 Intel® UPI 4x16 PCIe 4x16 PCIe 英特尔® C620 系列芯片组 英特尔® 至强® 可扩展处理器 CPU0

• GRPO ：群体进化的智慧筛选器 • 自我验证机制： AI 的 " 错题本系 统 " • 混合专家模型的 " 智能路由器“ • 多头潜在注意力 MLA ：空间压缩 术 • 训练框架加速： 16 到 3 的量化压 缩， 通信降低 89% • 推理加速：预加载，动态批处理 等 • 模型、数据、工具链、部署全开 源 • 蒸馏技术使能第三方模型性能 DeepSeek 大模型解读： 通过系统优化实现极致性能， 起步，根据推理并发量配置 DeepSeek-R1-Distill-Qwen-1.5B ： 4u4g Flexus X 实例 DeepSeek-R1-Distill-Qwen-7B&Llama-8B ： 16u16g Flexus X 实例 更大尺寸模型： Nvidia GPU 实例（需开白名单） 相关链接 https://console.huaweicloud.com/modelarts/?loc 、 8B 方案 1 X 实例 x1.16u.16g 1 676 1.3888 11 方案 2 GPU-G5R 16U32GB 显卡 1*16G 1 3905.8 13.32 60 方案 3 GPU-pi5 16U64GB 显卡 1 * 24G `1 4018 8.2 43 14B 方案 1 GPU-G5R 16U32GB 显卡 1*16G 100 1 3,947.80 13.377

...................................................................................................16 2.1.3 英特尔® 至强® Max 系列 & 英特尔® 至强® 6 处理器 ........................................................ 发 行版 OpenVINO™ 工具套件，加速 AI 推理工作负载 管理与安全 • 英特尔® vPro 平台适用于特定 SKU • 英特尔® 融合安全管理引擎 (Intel® CSME) 版本 16 操作系统支持 • Windows 10 IoT 企业版 2021 长期服务频道 (LTSC) • 支持 EFLOW • Linux 内核覆盖，可轻松采用物联网功能 • Celadon (Android)（社区支持） 英特尔® vPro® Enterprise B ME16 ME16 英特尔® 酷睿™ i7- 12800HE 处理器 14 6 8 20 24 MB 高达 4.6 高达 3.5 2.4 (@45W) 1.6 (@35W) 1.8 1.35 是 企业 消费者 英特尔 锐炬® X e 显卡 D 96 2 16 (CPU) 12 (PCH) DDR5- 4800

14 11.11 14 11.98 14 印度 21.14 15 11.00 15 10.14 15 比利时 15.02 16 6.41 17 8.61 16 奥地利 13.94 17 7.18 16 6.76 20 以色列 12.89 18 5.75 18 7.14 17 丹麦 12.41 19 5.55 19 6.86 3.3 9 1.4 8 0.9 19 7.4 8 0.4 16 1.8 8 5.3 4 法国 39.0 7 2.0 12 2.0 11 7.1 5 8.7 8 2.6 14 0.9 13 2.2 9 8.9 6 0.9 9 1.5 10 2.3 8 意大利 38.1 8 1.5 16 2.4 10 3.9 9 9.9 5 3.2 10 0.3 7.5 7 0.7 11 0.7 14 1.3 16 荷兰 26.8 11 1.1 24 2.5 9 2.6 12 6.0 12 3.9 7 1.0 10 0.7 22 4.7 13 0.6 12 0.7 15 3.0 6 瑞士 26.5 12 1.8 13 3.0 8 4.1 8 2.8 16 1.9 19 0.9 14 1.4 12 5.4

...........12 2.2 ZRx 相干光技术.......................................................................16 2.3 IP+光融合技术.........................................................................27 三、 光电融合网络技术发展趋势 功能，以此提升网络灵活性与可扩展性的设计方案陆续涌现。 2.2 ZRx 相干光技术 2.2.1 技术概述 光电融合网络技术的发展，得益于相干光通信技术的持续突破。 近年来，基于高阶调制（如 QPSK、16QAM、64QAM）、高速 ADC/DAC 芯片、先进 DSP 算法与低功耗封装工艺的进步，使得相干光模块在 速率、距离、集成度和能效方面大幅提升。从最初的 100G CFP 模块， 到如今广泛商用的 相干光技术的发展经历了几个阶段，每个阶段都在性能、效率和 集成度方面有显著提高。每个阶段主要特点： 第 1 阶段相干技术：光纤容量、功率效率和每比特成本迅速提高， 从 QPSK 调制过渡到 16QAM 调制，从摩尔定律中获益匪浅，数字 处理消耗了更多的模块功率，引入业界首创的可插拔模块。 第 2 阶段相干技术：标准化接口，在客户端外形中引入 ZR/ZR+， 实现基于路由器的应用，首次部署概率星座整形解决方案，自适应波

https://moss.fastnlp.top/ 澜舟科技 孟子 3 月 14 日 已发布 https://www.langboat.com/portal/mengzi-model 百度 文心一言 3 月 16 日 企业用户内测 https://yiyan.baidu.com/ 达观数据 曹植 3 月 21 日 可申请使用 http://www.datagrand.com/products/aigc/ May- 16 May- 19 May- 18 May-20 Sep- 16 Sep- 19 Sep- 18 Sep-20 Nov- 16 Nov- 18 Nov- 19 Nov-20 Mar- 16 Mar- 19 Mar- 18 Mar-20 Mar-23 Jan- 16 Jan- 19 Jan- 18 Jan-20 Jan-23 Jul- 16 Jul- Fermi 的升级版，整体架构保持一致性，采用台积电 28nm 制程。 l2014 年的 Maxwell 架构通过优化架构，提供了可观的能耗比提升。 l2016 年， Pascal 架构推出，采用台积电 16nm 制程，支持 DirectX 12 标准，是首个为深度学习而设计 的 GPU 架构。 l2017 年的 Volta 架构专注于提高深度学习的性能，采用台积电 12nm 制程，