等。 n 风险提示 ： AI 技术落地不及预期、竞争加剧、信息更新不及时等。 2 n DeepSeek 开源使金融机构能够轻松获得前沿模型能力，且大幅降低部署成本。其通过对训练方式、算法架构和推理方 法的工程化优化大幅降低了部署成本。近期采用大规模 RL 训练方法的阿里 QwQ-32B 等模型也在缩小规模的同时达到 了 DeepSeek R1 671B 的应用效果，有望进一步催生银行落地应用。 阶段大规模应用了强化学习方法。 R1 使用了冷启动 + 大规模强化学习方法， R1-Zero 版 本模 型使用纯强化学习方法。随训练过程推进，模型展现出了推理能力的扩展（高准确率和 long-CoT 能力涌现等） 。 性能：后训练阶段大规模应用强化学习，表现推理能力扩展 资料来源： DeepSeek-R1: Incentivizing Reasoning Capability in LLMs via Reinforcement Attention ， MLA ）进行优化；在后训练阶段采用冷启动 + 大规模强化学习 方 式，不再使用传统 SFT 做大规模监督微调， 甚至绕过了一些 CUDA ，采用 PTX 汇编来提升能力；在推理场景下通过 大规模跨节点专家并行（ Expert Parallelism ， EP ）来优化通信开销，尽可能实现负载均衡。 图表： DeepSeek R1 架构图

主，结合部分零售业务 • 第三方服务商占据定制 批发市场的主要份额 • 需求来源以智算为主要 驱动，通算稳定增长 • 受益于大模型的训练需 求增长，定制批发模式 再迎发展机遇 • 零售模式有望在推理场 景中实现进一步增长 代表性 供给方 资料来源：灼识咨询 萌芽期 探索期 爆发期 转型期 繁荣期 2022-2023 2009-2014 2003-2008 2000-2002 2024-未来 算力的主力军。借助云计算实现零散智算资源集中与纳管的优势，各大云厂商纷纷在智算领域进行布局，形成千卡、万卡智能云集群，以云服务的方式提供可便捷 获取的智能算力。云计算与智算资源融合形成的智能云能够为大模型训练和推理提供充足的算力资源，已经成为促进人工智能领域发展的坚实底座。 年均复合增长率 2015-2021 2021-2023 2023-2028E 66.5% 44.6% 39.3% 24.9% 23 展，"AI+"战略将全面赋能推动千行百业加速迈向全面智能化与数字化转型的新纪元。 13 资料来源： 灼识咨询 AIGC时代到来 • 2022年12月，OpenAI推出的 ChatGPT展现出了其在逻辑推理和 文本理解上的强大能力，且其生产 的内容已接近人类创作水平，这标 志着AI大模型能力的进一步飞跃。 • AI大模型高度智能化的生成能力具 备巨大潜力和无限可能，为其在各 个领域的应用提供了更广阔的空间。

为核心理念，强化“连接 + 算力 + 能力” 深度融合，推动数字基础设施从“被动支撑”向“主动赋能”跃迁，同时助力千行百业实现数字化 转型与高质量发展。 算为引擎：面对 UPF 转发与 AI 推理等差异化负载，算力平台需突破通用架构局限。通过轻量化内核、 异构计算与云边协同，实现 CPU/GPU/NPU 等多样化算力资源的统一池化与智能调度，使算力灵活 流动，紧密协同网络需求与 AI 任务，成为驱动业务智能的强劲引擎。 现资源按需分 配与快速响应，依托跨异构适配能力对 CPU/GPU/NPU/DPU 等多元算力进行统一调度，支持云边模型 与数据协同机制构建“边缘 - 区域 - 中心”三级算力体系，实现模型训练与推理任务的动态流转。同时， 通过容器隔离、可信计算与多层冗余架构，保障平台的安全与高可靠运行，满足企业业务对隐私与稳定 性的极致要求。 赋能企业专网的边缘智能核心网：通过五大关键能力构建的智能化网络基座。异构接入能力可破解网络 智能驱动中枢与模型服务基座：作为系统的“智慧大脑”，智能驱动中枢层深度融合大模型与行业 知识，通过模型边缘适配技术解决通用大模型在边缘环境下的部署难题，依托硬件协同优化实现性 能与能效的最佳平衡；基于参数化调节机制动态优化推理过程，确保服务质量与资源消耗的精准控制； 通过智能体支撑框架构建多智能体协同体系，实现复杂任务的自动分解与执行；借助 MCP Server 与网络模型上下文协议将网络能力标准化、工具化，彻底打通“业务

要实现如此宏大的变革，我们必须找到正确的实现路径。幸运的是，技术的 发展为我们指明了方向。大型语言模型，多模态大模型与智能体技术的崛起，构 成了工程智能的核心驱动力。大模型以其强大的知识融合、逻辑推理与自然语言 交互能力，成为了理解和处理工程领域复杂信息的“认知内核”；而智能体则扮 演了“超级执行者”，它能够自主规划、调用工具、协同系统，将认知转化为行 动，完成复杂的工程任务。二者的结合，为构建工程智能操作系统提供了前所未 的各项技术能力进行高效整合与协同，通过打造统一的基础设施、数据资源、基 础模型与智能体能力等平台，为实现工程智能的规模化价值提供坚实的平台化支 撑。这一系统的构建，依赖于工程智能时空全模态基础模型关键技术、工程智能 推理决策关键技术、工程智能体关键技术等核心共性技术上的持续突破。 展望未来，工程智能的发展将呈现从知识问答走向工程推演决策、从碎片化 响应走向人模系统一体化及共生智能、以及最终的从单点技术走向规模化赋能的 ..................................... 48 6.2 工程智能推理决策关键技术.........................................................................50 6.2.1 面向工程智能的推理增强技术..............................................

2025年上半年，OpenAI的GPT-4.5、Google的Gemini 2.5 Pro、Anthropic的Claude 4等模型在复杂推断能力上持续突破。例如，Gemini 2.5 Pro在数学推理（2025高考数学卷得分140分）和多模态理解（支持100万令牌上下文窗 口）上达到新高度，而Claude 4 Opus通过混合推断模式实现“快速响应”与“深度反 思”的动态平衡。 模型摸高驱动集群规模走向10万卡，代际快速演进： 配置复杂等问题已难以满足AI流量的需求，扁平化的网络架构成为必然选择。 2）推理业务快速崛起，并呈现多样化发展，带动网络发展 随着大模型技术逐渐成熟，智算行业正经历从“训练优先”向“推理主导”的战略转型。 这一趋势由两大核心驱动力： 算力结构重构: 2025年中国智能算力规模预计达1037.3 EFLOPS（是通用算力的12 倍），随着模型的成熟以及生成式人工智能应用的不断拓展，推理场景的需求日益增加，推 理服务器的占比将 理服务器的占比将显著提高。IDC数据显示，预计到2028年，推理工作负载占比将达到 73%。 应用场景爆发式增长:智算业务的应用场景正从互联网行业向金融、医疗、制造、交通 等传统行业全面延伸，推动各行业的智能化转型。例如在金融领域，智算技术被广泛应用于 风险控制、智能投顾、欺诈检测等场景。通过对海量金融数据的分析和建模，智算中心能够 为金融机构提供更精准的风险评估和投资建议，提高金融服务的效率和安全性。

1980s-2000s 早期 2000s-2010s 2010s-2018s 2018s- 现在 推理期 知识期 统计学习时期 集成方法时期 早期神经网络时期 大模型时期 人工智能领域迭代迅速、多种技术流派蓬勃发展，在多个领域已有广泛应用。 卷积神经网络 循环神经网络 图神经网络 聚焦知识工程 与专家系统构建， 通过人工整理知 识库驱动决策， 受限于知识获取 成本与规模瓶颈。 以符号逻辑为 核心，依赖人工 规则与推理系统 ( 如 专家系统 ), 强解 释性但泛化 能力 弱。 基于海量数据与 大规模预训练； 代表算法： DeepSeek 系列 Qwen 系列 GPT 系列 通过模型组合提升 播算法，显著提升了模型的学习能力。随后，基于注意力机制的 Transformer 架构改变了自然语言处理 的范式，使大规模预训练成为可能。近年来，大模型凭借超大规模参数和海量数据学习，在多模态学习、 推理和通用人工智能方向取得重要进展，为人工智能的发展开启了新的阶段。 大模型 模态扩展 文本 检索增强 图像 / 视频 大规模基础模型 音频 电力大模型 医疗大模型。 Transformer

与市场格局 正在加速重构。 生成式人工智能基于海量数据训练、推理生成新的输出，并能以文本、音频和图像等形式创建新内容。 智算中心是支持生成式AI工作负载的新型数据计算中心，基于AI计算架构，提供AI应用所需算力服务、数据 服务和算法服务的算力基础设施，它融合高性能计算设备、高速网络以及先进的软件系统，为人工智能训练 和推理提供高效、稳定的计算环境。据测算，2023年全球生成式AI市场规模，包括硬件、软件以及服务等， 放等，提升用户体验与商业价值。DeepSeek算法与芯片深度适配，不仅降低对高端GPU的依赖，也推动算 力供应链自主化。高效的算法一方面减缓了AI训练的算力需求，另一方面AI应用的普及导致AI训练与推理的 侧重点发生转变，预计未来几年推理算力占比将远超训练部分。 1.2 技术破局：从GPU集群到分布式协同一体 建设和运营智算中心需要巨大的资本投入，包括购买昂贵的AI芯片、建设高密度机房等。AI工作负载对 网络 在云计算阶段，云服务器主要是CPU服务器，每台服务器配置1-2颗CPU芯片即可。AI工作负载分为两 大类 — AI训练以及AI推理。人工智能训练过程将首先创建AI模型。它包括数据集合，模型选择，模型训练， 模型评估，模型部署和模型监控，涉及密集使用GPU。模型开发完成后启动推理业务，为最终用户提供业务 支持或与模型交互。因此大模型的训练基于更大规模的GPU并行计算，单服务器内部署GPU数量提升至4颗、

挑战三、高质量语料稀缺 政府、金融、医疗、制造等行业大模型专业语料稀缺， 海量多模态数据（文本、图像、传感器）待标注数 据占比高，高质量语料转化率低（语义缺失、时效 滞后等），无法满足行业大模型训练推理阶段对行 业标注数据的诉求。 · 挑战四、安全能力参差不齐 数据流通涉及数据提供方、使用方、服务运营方等 众多参与主体，不同主体的网络安全、传输安全、数 据安全等防护水平差异较大，容易成为攻击者突破的 多形态异构技术体系，跨系统数据 AI 不可见 当前模型训练 / 推理数据涉及多主体、多云、多业务 系统间的数据集成与数据汇聚，由于多主体大数据 平台建设采用异构技术平台、不同元数据管理、独 立数据接口标准，导致跨主体跨域间数据无法高效 流通、无法高效发现、汇聚、治理、加工、访问与检 索，大量 高价值数据难以被快速、高效集成至 AI 训练 / 推理 生产流程中。 ① 跨域多主体系统异构建设，跨系统横向集成难， 缺少统一权限管理，合规管控复杂度高：异构元 数据管理多重权限体系叠加、审计日志分散，满足 统一 IAM 策略、统一审计的技术成本高、漏洞风险 大。 ② 缺少云边端一体化管理，中心训练 -> 边缘推理纵 向数据供给不足： · 云边端数据孤岛导致语料碎片化：大量高价值行 业数据（工业设备、医疗检测、城市治理监测）滞留 边缘端，导致垂直领域语料严重短缺； · 云边端元数据描述不统一：云边端数据缺乏统一

加密。经第三方测评，其数据泄露风险指数仅为传统系统的 1/8， 同时满足 GDPR 和 CCPA 等国际隐私标准。在计算效率方面，采用 量化压缩后的模型可在 NVIDIA T4 显卡上实现每秒处理 45 次并发 查询，推理成本比同类模型降低 62%。这些特性使其特别适合处理 金融、医疗等强监管行业的 CRM 需求。 1.3 项目目标与预期效益 本项目旨在通过将 DeepSeek 大模型深度集成至企业 CRM 系 场景下的典型交互内容。测试数据显示， 对于包含 20 个字段的客户服务对话记录（平均长度 800 字符）， 模型处理耗时分布如下： 处理阶段 平均耗时 (ms) 资源消耗 (vCPU) 请求预处理 45 0.2 模型推理 320 1.8 结果后处理 60 0.3 在安全合规方面，DeepSeek 已通过 ISO 27001 认证，支持以 下关键特性： - 数据传输采用 TLS 1.3 加密 - 静态数据 1 ≤ 小时 系统集成拓扑采用混合部署模式，客户敏感数据存储于本地化 CRM 数据库，通过专用数据管道向云端 DeepSeek 模型服务推送 脱敏特征数据。实时交互类场景部署边缘计算节点，将模型推理延 迟控制在 100ms 以内。历史数据迁移采用分片增量同步策略，每 批次处理 5 万条记录，失败自动重试 3 次后进入死信队列人工干 预。 异常处理机制包含三级熔断策略：当接口错误率超过阈值时，

源的“无条件”接入创造无限可能。 电力人工智能的研究和思考 中国南方电网 CHINA SOUTHERN POWER GRID 28 关键技术 电力系统 高维向量表征 ( 数字数据系统 ) 电力大模型 训练和推理 多领域知识融合的 电力智能应用 电力人工智能系统 AI EPS 核心成果 电力人工智能系统 技术挑战 信息 表征 算法 基础 知识 融合 智能 决策 电力人工智能的研究和思考 电力人工智能的研究和思考 新型电力系统人工智能大模型关键技术 AI EPS 应用 系 统 集 成 应 用 自主运行“用得好” ⑤ 新能源渗透率： ≥ 70% 电力人工智能系统 Al EPS 逻辑推理“算得快” ③ 复杂调度： 分钟级 策略推演 关键技术 2: 基础模型与模型训练 电 力 专 业 大 模 型 基 座 ( 函 数 库 ) 未见场景“算得准” ② 多物理量状态数值精度： 实时性挑战 实时性 电力人工智能系统 Al EPS 复杂度挑战 基本依据 依据电力基本物理规律 遵循电力系统技术原则 符合电力系统应用需求 关键技术 数据生成与表征 模型训练与推理 运行感知与预测 系 统 智 能 决 策 精确度挑战 发展变化挑战 目标 高效分析 精准预测 优化决策 自动导航 中国南方电网 CHINA SOUTHERN POWER GRID