联想算力基础设施非凡箓-AI大模型算力解决方案手册

微信扫码，打开到小程序

联想算力 基础设施 第 三 AI 大 模 型 算 力 解 决 方 案 手 册 关卞目、 目录 卷首语 1 第一章 AI 战略制胜法则：智算基础设施重构商业价值 3 1.1 大模型下半场，推动 AI 普惠并抢占战略制高点 4 1.2 DeepSeek 技术矩阵，重构 AI 时代核心竞争力 6 第二章 企业 AI 大模型应用：从试水到规模化落地的 全新挑战 9 2.1 DeepSeek 普及阶段的多元挑战 10 2.2 场景化应用实践，从技术到价值的跨越 13 第三章 联想 AI 基础设施九大技术优势，全面拥抱大模型 2.0 时代 18 3.1 多层协同架构，筑牢 AI 运行基石 19 3.2 全栈技术体系，构建企业级 AI 技术底座 21 3.3 九大差异化技术，突破智算效率极限 23 3.4 适配多场景的全周期方案，降低企业 AI 落地门槛 29 3.5 联想万全 AI 一体机产品 , 大模型性能调优大师 31 3.6 场景化方案推荐，个性化解决业务需求 38 第四章 技术突破与商业价值双轮驱动 40 4.1 紧跟客户需求，首波适配 DeepSeek 的硬核实力 41 4.2 软硬协同，破解 AI 落地最后一公里 43 4.3 “ ” 可用 到 “ ” 好用 ，让创新技术紧贴业务需求 45 4.4 一站式解决方案，全周期护航 46 第五章 联想 AI ’ 基础架构赋能不同产业 实现商业价值飞跃 51 5.1 联想赋能联宝科技，驱动制造全链效能与成本双优化 52 5.2 金融企业基于全栈方案简化运维流程，推动智能化转型 54 第六章 未来征程：联想 AI 生态的全景蓝图与使命承诺 56 CONTENTS 1 联想算力基础设施非凡箓 — Al 大模型算力解决方案手 卷首语 以 Γ 智」筑基，以 Γ 算」赋实 ―― 迎接 AI 价值普惠的新纪元 算力为舟济沧海，智能作翼破长空。当 AI 大模型以 70% 的年增速重塑 千行百业，当单月亿级用户涌入 AI 应用洪流，企业正面临算力效能与落 地成本的双重考验。这场由 DeepSeek 等大模型驱动的技术革命，既需 万卡集群的磅礴之力，更求单机部署的绣花功夫―― 唯有筑牢 " 算 - 存 - 网 " 协同之基，方能托举 AI 普惠九霄之志。 联想以混合式基础设施为支点，撬动 AI 全场景落地：万全异构智算平台 3.0 携四大技术创新破局―― AI 推理加速算 法集实现 5-10 倍性能跃 升， 编译优化器降低 15% 训练成本，慢节点自愈系统达成万卡十分钟 级故障 恢复，专家并行算法削减 3 倍推理延迟。这一技术底座更通过联 想万全 AI 一体机实现端到端落地：基于联想自研的联想万全异构智算 平台管理 软件，深度适配问天 WA7785a G3 等服务器硬件，凭借调度层、算子层、 推理引擎层三级调优技术，将异构算力利用率提升至行业标杆，为企业提 “ ” 供 开箱即用 的本地化 AI 解决方案，真正实现从技术突破到产业普惠 的闭环。 1 联想算力基础设施非凡箓 ―― Al 大模型算力解决方案手册 本册《非凡箓》浓缩联想智算实践精华：首章揭示 DeepSeek 技术 矩阵如何重构企业竞争力；中篇以多维智能算力匹配、 GPU 内核态 虚拟化、集合通信算法库、AI 高效断点续训、AI 与 HPC 异构集群 调度等九大差异化技术拆解规模化落地密码，完整诠释联想在异构智 算领域的创新成果；终章通过制造、金融等领域的成功案例，诠释软 硬协同如何让 AI 从 " 可用 " 到 " 好用 "。这既是技术手册，更是产业 跃迁的路线图―― 以九层之台起于垒土的坚韧，成鲲鹏击浪从兹始的 格局。 " 浩渺行无极，扬帆但信风。" 面对 AI 服务器增速蓝海，联想愿与业 界同仁共执算力之楫，在智能时代的沧海中直挂云帆。让我们以这本 《非凡箓》为契，共赴 " 大模型赋实千行，新基建智领万业 " 的星辰 之约！ 联想中国基础设施业务群 卷首语 2 第一章 AI 战略制胜法则： 智算基础设施重构商业价值 3 联想算力基础设施非凡箓 — Al 大模型算力解决方案手册 1.1 大模型下半场： 推动 AI 普惠并抢占战略制高点 在全球数字经济加速向智能化转型的浪潮中，生成式 AI 技术突破、大模型生态爆发与数 据量指数级增长，正重塑企业竞争格局，使得算力需求呈现前所未有的增长态势。企业正 站在从传统 IT 架构向智能决策体系转型的战略窗口。在这场智能革命中，算力集群的弹 性扩展能力、算法框架的优化及数据资产的跨域融合，共同构成了数字化转型的坚实“数 ” 字底座 。I DC《2024 全球 AI 基础设施报告》显示， 中国企业 AI 算力支出达 127 亿美元， 年增长率 58%，但算力利用率中位数仅为 34% “ ， 高投入、低效能” 的矛盾凸显。企业迫 切需要突破算力孤岛、算法碎片化和数据质量瓶颈。构建全栈协同、自主可控的智能基 础设施，成为企业实现战略转型的必选项，而这正是中国市场展现创新活力的关键所在。 在此背景下， DeepSeek “ 以 技术普惠 + 生态开放” 为核心，成为推动 AI 产业变革的 重要力量。随着市场需求的持续攀升， DeepSeek 不仅实现了市场空间的显著扩张，积 极促进了 AI 技术的广泛普及，更在深层次上推动了企业对 AI 大模型应用需求的激增， “ ” “ ” 将智能体平台和生态从 封闭孤立 转变为 开放协同 ，全力打造一个开放、安全且普 惠的 AI 生态系统。通过这一生态系统，企业能够以较低的成本构建专属的智能中枢，推 动 AI 技术的普惠发展。 第一章 AI 战略制胜法则：智算基础设施重构商业价值 4 此外， DeepSeek 还通过全球化生态布局、开放 API 与工具等方式，不断降低成本和 技 术门槛，促进 AI 技术的广泛应用。值得一提的是，DeepSeek 以较低成本训练出效果 卓 越的 V3 版本，并免费开放模型结构和权重，实现了技术和价格的双重普惠。这一进展 不仅彰显了大模型发展的潜力，也强调了算法、系统化工程、芯片算力和软件栈深度融合 的重要性，这也带来了新的需求与挑战： • 在模型层面，强化学习和蒸馏技术的使用将进一步推动性能提升。 • 同时，AI 算力基础设施优化和底层优化也至关重要，包括验证 FP8 精度的有效性、 PD 分离、通算融合等技术。 • 此外，CUDA 底层的 PTX 虚拟汇编重构和 DualPipe 算法也将受到重视。 这些优化措施将共同促进大模型的高效运行和发展，为 AI 普惠的未来奠定坚实基础。 5 联想算力基础设施非凡箓 — Al 大模型算力解决方案手册 DeepSeek 技术矩阵： 重构 AI 时代核心竞争力 ※ 从算法优化到架构迭代：DeepSeek V3 与 R1 的技术突围 DeepSeek V3 训练模型与 R1 推理模型的技术突破，为企业智能化转型提供了关键支撑： R1 模型在推理能力上超过了 OpenAl o1 “ ” ，不仅擅长展示推理过程，还提供了 思维链 。值 得一提的是，R1 模型的技术是开源的，并使用 MIT 许可证，允许使用、复制、修改、发表、 分发、再授权及销售软件，具有广泛的应用前景。 第一章 AI 战略制胜法则：智算基础设施重构商业价值 6 1.2 算法模型与 AI 算力基础设施充分融合的工程化范例 新型 MOE 框架 FP8 混合精度 PTX 重构 Dual Pipe 7 联想算力基础设施非凡箓 — Al 大模型算力解决方案手册 GEMM 算子优 强化学习 小模型蒸 推理框 FlashM PD 分 EP 并 底层优 AI 算力基础设施优 模型 ※ AI 基础设施建设，迈向高效低成本新时代 DeepSeek 为 AI 基础设施建设带来了显著变化： 尽管 DeepSeek 通过技术创新大幅降低了 AI 应用门槛，但企业在实际落地过程中仍面 临诸多挑战。从算力供给与需求的动态失衡，到技术架构与现有 IT 生态的兼容难题，再 到模型性能与工程效率的权衡困境，这些矛盾成为阻碍 AI 规模化应用的关键瓶颈。在下 一章中，我们将深入剖析企业在 AI 大模型落地过程中面临的核心挑战，并探讨如何破局。 第一章 AI 战略制胜法则：智算基础设施重构商业价值 8 使用场景方面 推理场景因其简单易部署的特点，正逐渐超越复杂的训练场 景，受到更多关注。推理模型能够与智能体直接结合，在业 务场景中迅速体现价值。 建设成本方面 AI 基础设施建设成本大幅降低，AI 智算中心的建设规模缩 小，从成百上千节点变为仅需单个或几个节点即可部署相关 业务，同时对配套设备和系统环境的要求也降低，减少了技 术人员专业化和团队规模的需求。 管理模式方面 AI 基础设施建设更趋于精细化管理， DeepSeek 的特性决定 了需要精细化管理资源，基础架构层也提供了更开放的管理 和调度功能。 第二章 企业 AI 大模型应用： 从试水到规模化落地的全新挑战 在第一章我们探讨了 DeepSeek 技术矩阵如何通过算法创新与架构优化（如 MoE 动 态路由、FP8 全栈支持等）降低 AI 应用门槛，但技术的理论优势与企业实际落地效果 之间仍存在巨大鸿沟。2024 年中国企业 AI 大模型落地应用现状调研报告显示，AI 大 模型落地总体上仍处在探索孵化阶段，渗透率不足 1%。 9 联想算力基础设施非凡箓 — Al 大模型算力解决方案手册 DeepSeek 普及阶段的 多元挑战 落差背后折射出三大核心矛盾：算力供给与业务需求的动态失衡、技术架构与 IT 生态的 兼容鸿沟，以及模型性能与工程效率的此消彼长。这些矛盾在企业落地 DeepSeek 技术 的过程中，进一步衍生了全新的挑战。 ※ 资源效能定制与算力短缺困局 企业在应用 DeepSeek 技术时，需根据不同模型应用场景定制方案，然而计算资源短缺 成为横亘在前的首要难题。AI 大模型训练与推理对算力需求呈指数级增长，不仅硬件采购、 运维成本高昂，资源动态分配与调度逻辑复杂，且模型开发所需的基础环境搭建涉及软件 适配、系统调试等大量工作。 第二章 企业 AI 大模型应用：从试水到规模化落地的全新挑战 10 2.1 ※ 算存网协同与平台转型难题 在网络 / 存储资源方面，为配合 DeepSeek 的高效传输需求，企业需要设计 IB 网络 与 RDMA 网络，解决拥塞带宽问题，实现路径优化。在管理平台方面，为更好地融入 DeepSeek 的生态系统，企业需统一部署平台，构建异构 GPU 卡管理平台，开发可视化 “ ” “ ” 界面以简化管理操作，推动智能体平台与生态系统从 封闭隔离 向 开放协同 转型。 ※ 部署与算力挑战，亟需高效整合并打破性能瓶颈 快速搭建 DeepSeek 一体化平台也是企业关注的重点，企业 希望在最短时间内实现业务响应，让 DeepSeek 与智能体快 速适配并在一体化平台上进行模型微调。同时， DeepSeek 基 础算力平台如何与用户现有模型开发平台适配兼容，实现模型 与业务系统的联调，也是亟待解决的问题。 11 联想算力基础设施非凡箓 — Al 大模型算力解决方案手册 DeepSeek 一体化平 算力层 部署层 DeepSeek 模型在通用基础架构平台中快速部署仍有较高 门槛，客户需了解如何通过简单操作完成模型的分布式环境搭 建， 并思考如何与原有 AI 基础设施设备高效融合。 DeepSeek 在国产化环境中需进行性能调优，客户还需探索 如何在模型推理或后训练过程中有效提升单节点算力效率， 在集群环境下快速找到性能瓶颈，发挥系统整体算力。 ※ DeepSeek 一体机性能考量：选型背后的多维博弈 看待 DeepSeek 一 体机的性能，需从用户 和 技术 两 个维 度分 析 。从用户 角 度， DeepSeek 一体机主要承载智能知识库、翻译、材料总结等应用 ，企业可根据自身场 景需求选择满血版或蒸馏版，其输入 / 输出能力分别为输入 128k tokens / 输出 512k tokens 或输入 2k tokens / 输出 256k tokens，文档处理上下文大小也可按需选 择。从 技术角度，需评估企业高峰时段的并发访问量，以 100 人为单位估算，通常同一 时间提 问的人数（并发）在 10 - 20 人左右。此外，未来若需微调，则需更高的算力支 持，后期 可通过 来满足需求。 第二章 企业 AI 大模型应用：从试水到规模化落地的全 新挑战 12 2.2 场景化应用实践： 从技术到价值的跨越 明确 DeepSeek 普及阶段多元挑战后，如何让 DeepSeek 技术真正落地，转化为实际业 务价值，是企业在实践环节将要面临的新一轮的挑战。接下来， 我们一同 探索 DeepSeek 在场景化应用中如何实现从技术到价值的跨越。 13 联想算力基础设施非凡箓 — Al 大模型算力解决方案手册 对应场景：通用知识处理— 高效完成日常任务 ※ 应用模式 1 ：DeepSeek+ 知识库— 模型能力外挂专业知识库 模型结合 RAG（检索增强生成）模式，通过整合大 语言模型（LLM）与外部知识库的动态检索能力， 显著提升生成内容的准确性、时效性与领域适应性。 技术优势 抑制幻觉，提升生成可信度 RAG 通过实时检索权威知识库（如行业文档、实时 数据库）为模型提供事实依据，大幅减少 LLM 因训 “ ” 练数据滞后或参数偏差导致的 虚构性输出 问题。 动态知识更新，突破训练时效限制 传统 LLM 依赖静态训练数据，而 RAG 允许通过更新外部知识库即时整合新信息（如政 策法规变更、技术标准迭代），无需重新训练模型。 增强领域专业化能力 通用大模型缺乏垂直领域知识， RAG 通过对接企业私有知识图谱，使模型在特定任务 中 的准确率提升 50%-70%。 该模式无需从头训练行业专用模型，通过复用现有数据完成领域适配，开发成本可缩减 60% 以上，同时敏感数据存储在本地知识库，生成过程仅调用脱敏信息，有效避免企业 隐私泄露风险，兼具经济性与安全性。 第二章 企业 AI 大模型应用：从试水到规模化落地的全新挑战 14 应用价值 对应场景：特定任务分析— 精准研判复杂问题 ※ 应用模式 2 ： DeepSeek + 微调 / 强化学习— 对模型进行特定任务能力增强 大 模 型 通 过 微 调（Fine-Tuning ） 和 强 化 学 习 （ Reinforcement Learning） 进 行 特 定 任 务 能 力 增强，两者的协同优化显著提升了模型性能。微调 以低成本、高效率实现任务适配，适合数据有限但 需快速落地的场景（如企业知识库更新） ；强化学 习优化复杂目标与长期规划，适合需动态交互和人 类偏好对齐的任务（如客服对话、创意写作） ，二 者结合（如 SFT+RLHF）已成为大模型落地的黄 金范式，在医疗、金融、教育等领域实现突破性应 用。 微调仅需少量高质量标注数据即可适配任务，强化学习通过奖励函数替代人工标注减少 数据需求，实现了低数据依赖；微调采用参数高效微调技术冻结大部分参数，训练资源 需求仅为全参数微调的 10