潜力、工业 AI 和工业 大模型能为汽车、消费电子、新能源锂电、半导体制造等重点行业所带来的赋能创新机会，以及当前 大模型在工业领域落地应用所面临的挑战和英特尔针对工业 AI 和大模型落地部署从硬件，到软件，到 整体方案的技术赋能。 英特尔希望通过本白皮书，促进工业 AI 技术的广泛应用，并与行业伙伴共同探讨和制定工业 AI 的标准 化流程和最佳实践，共同构建开放、协同的工业 AI 生态 .10 英特尔® 技术方案 ..........................................................................12 2.1 硬件 ................................................................................................. ..................58 合作伙伴加速项目和产品推荐 ................................................. 60 4.1 AI 硬件产品推荐 ..............................................................................................

把握 DeepSeek 时刻，携手同 行 华为昇腾 AI 解决方案汇报 2025 年 2 月 DeepSeek 洞察及昇腾适配进展 华为昇腾 AI 基础软硬件介绍 CO NT E NTS 目 录 2 1 Huawei Proprietary - Restricted Distribution 2 训练资源 • 随着 DeepSeek 提供了一种高效率训练的方法，同等 训练系统总计训练了 1394h （ 58.08 天） 性能优 数学、科学和代码等领域领先业界， 成为业界公认的 LLM 的领先模型 来源： DeepSeek 模型测试数据 & 互联网 硬件级优化 绕过 GUDA 进行 PTX 编程 计算与通信优化，性能提升 30% GRPO ：群体进化的智慧筛选器 自我验证机制： AI 的 " 错题本系 统 " 混合专家模型的 " 智能路由器“ 模型、数据、工具链、部署全开源 蒸馏技术使能第三方模型性能 DeepSeek V3 ：实现极致性能，稀疏 MOE 提质 降本 技术创新 硬件级、算法级、架构级、工程级、开 源生态 5 大技术创新，轰动全球 低成本 绕过 CUDA 挖掘 FP8 硬件潜力， MOE 和 MLA 技术实现不到 10% 的 成本方案 ~150M$ 5.57M$ DeepSeek–V3 训 练成本

，但是“供养”他很贵。 什么是模型蒸馏？ “ 模型蒸馏”就是把大模型学到的本领， 用“浓缩”的方式教给小模型的过程， 在保证一定精度 的 同时， 大幅降低运算成本和硬件要求。 模型蒸馏 • 蒸馏是一种机器学习技术 ， 其中较小的模型（ “学生模型” ）被训练来模仿 较大、 预训练模型（ “教师模型” ） 的行为。 • 1. 数据蒸馏 在数据蒸馏中 ，教师模型生成合成数据或伪标签 Ubuntu 20.04+ ） 或 Windows WSL2 Python 3.8+ ，推荐使用 Anaconda/Mini cond a 管理环境 DeepSeek 本地部署 - 硬件环境准 备 DeepSeek 本地部署 - 部署办法 方法 1 ：使用 Hugging Face Transformers 方法 2 ：使用 vLLM 加速推 O u 下载 Ollama u 运行 Ollama u 运行 Ollama run deepseek-r1 O llama LM Studio 本地部署 • 前期准备： 确保设备满足一定硬件要求 ， 显卡需 GTX 1060 （ 6GB ） 及以上 ， 推荐 RTX3060 及以上； 内存 8GB 及以上 ， 推荐 16GB 及更高； C 盘剩余 20GB 空间 ， 建议 使用

大模型 DeepSeek 走入高 校 知识问答 提 郑州大学 DeepSeek-R1 系列大模型正在对接学校统一身份认证平台 ，近期将面向全校师生开放试用 同时 ， 将根据学校各学科具体需求与硬件条件 ， 以具体化、 针对性、 私有化、 学科专用或实验室专用的方式将进一 步 将 70B 、 32B 、 14B 、 8B 、 7B 等不同版本的 DeepSeek-R1 大模型部署到学科内部 ，并接入本地知识库（如 具体安装过程请参考厦门大学数据库实验室博客 https://dblab.xmu.edu.cn/blog/5816/ 4.4 本地部署大模型方 案 DeepSeek R1 671B （满血版） 部署成本 1. 硬件采购成本 • 服务器集群 ：含 8 张 NVIDIA A100/H100 显卡的服务器 ， 市场价格约 80-120 万元 • 配套设备 ：液冷系统、 冗余电源等附加成本约 15-25 万元 在推理时困难重重。 推理服务 器常因高 负荷宕机 ， 专属版云服务器按 GPU 小时计费的高昂成本让中小团队无力承担 ， 而市面上的 “本地部署” 方案多为参数量大幅缩水的蒸馏版 ，在本地小规模硬件上运行满血版 DeepSeek-R1 被认 为几乎不可能 n 此次 KTransformers 项目更新带来重大突破 ， 支持在 24G 显存（ 4090D ） 的设备上本地运行 DeepSeek-