和工业 大模型能为汽车、消费电子、新能源锂电、半导体制造等重点行业所带来的赋能创新机会，以及当前 大模型在工业领域落地应用所面临的挑战和英特尔针对工业 AI 和大模型落地部署从硬件，到软件，到 整体方案的技术赋能。 英特尔希望通过本白皮书，促进工业 AI 技术的广泛应用，并与行业伙伴共同探讨和制定工业 AI 的标准 化流程和最佳实践，共同构建开放、协同的工业 AI 生态系统，推动制造业向智能制造转型升级，赋能 Geti™ 平台有助于消除进入 AI 领域的障碍（如培训或支付专业服务费用），使计算机视觉 AI 建模对 各种组织更加容易和经济高效，特别是对于较小的公司来说。降低与人员培训相关的成本进一步增加了整体价值。 • 灵活部署：英特尔® Geti™ 平台可以在本地部署或通过云虚拟机部署，为那些使用这两种基础设施之一或两者的组织提供 灵活性。 英特尔® Geti™ 平台的使用流程示例 数据收集 设备上运行。另一方面，深度学习推理、图像编码和渲染具有良好的并行性，使它们适合卸载到 GPU 加速器上。 CVOI 基于这样的 Pipeline，提供了是一套全面的指南和示例代码，旨在优化英特尔® 平台上计算机视觉算子和整体系统 Pipeline 的性能。CVOI 是一个强大的工具，可以提高计算机视觉软件和系统的效率和可靠性，释放它们的全部潜力。 英特尔® CVOI 包含： • 适用于英特尔® 第 12/13 代及以后的平台的性能优化最佳实践方法

模块仅在训练中使用，提升模型训练效果，推理阶段可以不使用 MTP 模块，基础模型能够独立完成正常推 理 • 参考投机采样， MTP 模块也可以被重新配置用于 speculative decoding ，加速解码过程，降低整体时延 7 Huawei Proprietary - Restricted Distribution 关键 发现 ① 细粒度的计算通信并行 • 将 PP stage 考虑到 PP-16 和 FP8 量化 ，每个卡上显存占用为 1.675GB 参考 DualPipe 技术，基于 MindSpeed 训练加速框架以及昇腾硬件特性，针 对 性地设计高效率流水并行技术，提升整体训练性能 Huawei Proprietary - Restricted Distribution 关键 启示 8 模型结构优化 ： Duo 卡 2 卡并行， A2 8 卡并行， 支持开发板部署 • 14B ： Duo 卡 2 卡并行， A2 8 卡并行 • 32~70B ： A2 8 卡并行 整体已适配发布 Atlas 800I A2 BF16 /INT8 推理 已发布 除 70B 模型外，其他模 型 Atlas 300I Duo FP16/INT 8 70B BF16

传统的方法会倾向于提升选择正确答案的概率，同时降低选择错误答案的概率。然而，从推理长度的 角度来看，有时选择看似错误的答案可能会引导模型进入自我修正的过程，这种自我修正机制以及更 长的推理路径同样对提升模型的整体推理能力至关重要。 34 技术对比讨论：强推理路径 – Pure RL vs STaR-based ➢回顾：STaR ➢推理：起始数据集仅有 [Question, Answer] ，首先利用一些带有推理过程的 模型弹性的理论解释 ◆ 大模型被视作一种压缩器，预训练和对齐过程则是： 利用模型对每阶段的数据进行联合压缩； ◆ 数据量上pre-training显著多于post-training，模 型为提高整体压缩率，倾向优先保留预训练部分的 分布而抗拒微调对齐的分布，从而表现出模型弹性； ◆ 理论上发现：当对齐模型受到扰动时，模型对于预 训练数据集𝐷1的压缩率变化显著小于对齐数据集𝐷2， 且两者之比与 过程中，模型可以通过一次 预测多个Token来减少计算量， 从而提高推理速度。 [1] DeepSeek-V3 技术报告 https://arxiv.org/pdf/2412.19437v1 FP8 混合精度的整体训练思路 细粒度量化策略 71 拓展分析： DeepSeek-V3 ➢ 通信优化：DulePipe 算法： 精细化编排计算和通信 ➢ 控制前向和反向过程中 计算和通信的GPU SM 数量，保证计算和通信

用最新 GPU 训练性能领先的大模型 ■ 例子： 2023 年出 ChatGPT, 垄断市场 (290 亿美元估值 ) ■ 4, 用训练的 GPU 给客户提供高质量模型服务 ■ 例子：营收小、整体亏钱 2025 年特朗普的“星际之门”为 OpenAl 筹 5000 亿美元 Al 基础设施 ! 国际人工智能企业 OpenAI 的商业模 式 ■ 国内人工智能商业模式 ( 循环以下四步 )

OPS box 网络孔及电源 无障碍 坡道 分 离 式 冷 气 分 离 式 冷 气 讲桌 160” 触控电子白 板 退缩 空间 退缩 空间 退缩 空间 投影机 案例一：多功能教室整体设备配置图 案例二：合作探究学习情境 案例三 : 未来教室环境 案例四：混合式课堂与实验室 智慧课堂的教学优势 学生在“一对一” 环境中开展学习， 人手一台平板电 脑。 教室利用教室墙 开展教学活动

学术论文快速阅读 第 4 步： 论文导读模式 。 如图所示 ， 点击页面右上角 “ 导 读 ” ， 通过 “全文摘要 ”和 “论文速读 ” ， 可以快速了解 论文的主要内容和研究目的 ， 确保对论文的整体内容有 一 个初步的了解。 点击页面右上角 “翻译 ” ， 通过 “ 中英 互 译 ” ， 可以将论文翻译成中文 ， 以便进行进一步的阅 读。 同时 ，也可以在页面的左半部分 ，点击页面左下角的 翻页，