）进行优化；在后训练阶段采用冷启动 + 大规模强化学习 方 式，不再使用传统 SFT 做大规模监督微调， 甚至绕过了一些 CUDA ，采用 PTX 汇编来提升能力；在推理场景下通过 大规模 跨节点专家并行（ Expert Parallelism ， EP ）来优化通信开销，尽可能实现负载均衡。 图表： DeepSeek R1 架构图 理论成本利润率极高，成本还有优化空间。通过优化， 能够在白天负荷高的时候，用所有节点部署推理服务。 晚上负荷低的时候，减少推理节点，以用来做研究和训练。以 2025 年 2 月 27-28 日数据为例， DeepSeek V3 和 R1 推 理服 务占用节点总和， 峰值占用为 278 个节点，平均占用 226.75 个节点（每个节点为 8 个 H800 GPU ）。假定 GPU 租赁成 本为 2 美金

员工服务 自动化服务 智能客服 提供 10+ 画布节点，编排复杂应用，复杂 流程的执行准确率和对话完成率效果领先。 通过可视化拖拉拽的方式编排不同的原 子 能力，零代码 / 低代码构建业务流程。 其中参数提取节点，支持多参数同时提取、 基于对话历史进行多轮反问澄清等优势能 力，对话效果更优势。 大模型相关的节点均接入 DeepSeek R1 和 V3 模型，可支持自由选择和切换。 模型，可支持自由选择和切换。 大模型知识引擎“工作流” : 支持用户快速编排复杂应用 面向复杂业务流程场景，升级复杂应用构建能力 2. 信息处理节点 均已支持 DeepSeek 模型 1. 信息收集节点 已支持 DeepsSeek 模型 3. 基础节点 实用工具 办公提效 大模型知识引擎“ Agent 模式” ： 自主规划和工具调用 由大模型自主拆解任务和规划路径，模型主动选择和调用工具，并能够主动纠错和反思，

先，系统应支持多 种主流机器学习框架，如 TensorFlow、PyTorch 和 Keras，确保 用户能够根据具体任务选择最合适的框架。其次，系统需提供分布 式训练功能，支持多 GPU、多节点并行训练，以加速大规模数据 集的训练过程，同时具备动态资源分配功能，根据训练任务的复杂 度自动调整计算资源。此外，系统应内置多种优化算法，如 Adam、SGD 等，并提供超参数调优功能，允许用户通过网格搜索 行安全漏洞扫描和渗透测试，确保符合 ISO 27001 等国际安全标 准。 可扩展性和可维护性也是非功能性需求的重要组成部分。系统 应采用模块化设计，便于功能扩展和升级。在硬件层面，应支持横 向扩展，能够通过增加服务器节点来提升系统容量。在软件层面， 应提供完善的 API 接口，支持与第三方系统的无缝集成。维护方 面，系统应具备自动化监控和告警功能，能够实时监控 CPU、内 存、磁盘等资源使用情况，并在异常情况下自动发送告警信息。 求。同时，系统应支持数据缓存机制，将常用数据存储在内存中， 以减少磁盘 I/O 操作，提升整体性能。 系统还需具备良好的扩展性与弹性，能够根据业务需求动态调 整资源分配。例如，在训练任务高峰期，系统应能够自动扩展计算 节点，确保任务按时完成；在低峰期，系统应能自动释放资源，以 降低运营成本。 最后，系统应具备高可用性，确保 99.9%的正常运行时间。为 此，需采用冗余设计，包括双机热备、负载均衡等技术手段，以应

��% ��% ��% ��% �� 分布式预处理框架和流程优化：通过构建分布式的训练数据预处理框架，将IVF、HNSWLib、 Faiss/Flat等向量化算法进行分布式改造，使其能够在多个计算节点上并行运行。通过数据分 片和任务分配，充分利用集群的计算资源，提高处理大规模向量数据的能力。这需要云计算 基础设施提供灵活的适配和资源编排能力，以及严格的资源隔离与共享保障。 利用硬件加速提升 要保持长连接、低时延的计算、存储服务。当前的游戏业务还广泛使用到数智驱动，利用AI 加速对玩家行为进行实时分析并提供个性化推荐。 存算分离架构带来网络、存储性能压力：在大数据、数据库场景中，存算分离架构使计算节 点和存储节点之间的数据传输量大幅增加。大数据平台运行时，CPU负载普遍在60%以上， 内存带宽利用率可高达80%以上。高负载情况下，保持算力的平稳输出非常重要，包括性能 的线性度指标以及资源隔离的力度等。特 访问问题会更加突出，既要确保 租户之间运行不受任何影响，又不能以牺牲用户访问性能为代价。此外，多副本存储策略在 面对存算分离架构时也会带来数据一致性的挑战。一些分布式事务处理涉及多个计算节点和 存储节点，进一步增加了系统设计和实现的复杂度。 云原生架构带来系统架构和技术栈的新问题：例如如何处理微服务间频繁的通信、复杂的拓 扑、多样化存储以及动态多变的负载等，并强化隔离保障安全。云服务商通过持续增强弹性

模 块采用分层贝叶斯方法，在 95%置信水平下将抽样量降低 40%； 底稿自动生成模块支持按证监会各板块要求一键生成差异化的审计 报告；风险可视化模块通过动态知识图谱展示企业关联交易网络， 节点大小反映交易金额，边权重体现资金流转频率。 系统安全方面实施四重防护：FIPS 140-2 标准的传输加密、基 于 RBAC 的细粒度权限控制、审计操作区块链存证、模型推理结果 可解释性分析。 7B 的审计专用微调版本，响应需包含法规条款引用 知识图谱构建 采用动态权重图谱技术，实体关系权重按审计周期自动更新。典型 节点配置示例： - 企业节点：工商信息+财务指标+ 处罚记录 - 交易 节点：金额/时间/ 关联方三维特征 - 规则节点：ISA 准则+内部控制 条款 算法部署采用模块化容器设计，各组件通过 gRPC 协议通信， 整体架构满足审计级数据隔离要求（ISO 的命名实体识别系统，识别审计文本中 的五类关键实体： ||实体类型|识别精度|应用场景| |—|—|—| —| |财务数值|92.3%|异常交易筛查| |法律条款|88.7%|合规性 检查| |时间节点|95.1%|时序分析| |人员职务|84.5%|关联方识 别| |业务流程|81.2%|内控评估|  第二阶段：采用 DeBERTa-v3 模型构建审计问答系统，在 2000+审计工作底稿上微调，实现：

统的学科结构整合，而是复杂灾害情境下产生的问 题处理需求而整合。随着问题的出现，涉及问题处 理的各种不同关系的个体构成了知识生产网络互相 联结的节点，问题解决过程中产生的知识内嵌于这 个网络中，即存储在参与问题解决的生产场所的个 体和组织中。当下一个问题出现时，新应用场景中 的节点重新联结形成，进入新一轮问题解决。在这 种模式下，网络上相互联结点的数量因新生产场所 的增加而持续增加，知识生产逐渐在更广泛的范围 和不同的应用场景之中传播。应急管理知识创新依 赖于这样一个开放的知识生产网络，网络中节点联 结密度影响了知识的传播、积累以及最终解决复杂 问题的能力，是影响知识创新能力的关键变量。 利用大语言模型技术建设应急管理知识生产网 络中的超级节点，将各领域的行业专家、各学科的 专业学者、各应急部门的专业人员等各类应急知识 生产者有机联合起来，参与每一轮问题解决中，最 大化网络中节点联结密度，超越跨学科知识生产中 知识生产场所和应用场景的物理局限，实现知识生 知识生产场所和应用场景的物理局限，实现知识生 产的人机协作。应急知识生产超级节点作为网络中 联结密度最高的节点，扮演了一个交流中心的角色， 在与知识生产者交互中加深认识、产生联想、激发 想象，最终形成创造力推动复杂问题的解决。同时 超级节点还扮演了存储中心的角色，吸收每一轮问 题解决中生产的新知识，在参与到下一轮问题解决 时应用到新的应用场景中，促进应急知识的转移和 应用。在这样一个人机协作的知识生产模式下，应 急知识的应用与创新之间存在着一种互相促进和动

体化算力网的实施意见》，旨在不断完善综合算力基础设施，增强 算力赋能成效。2024 年印发《推动工业领域设备更新实施方案》， 提出推动“云边端”算力协同发展，加大高性能智算供给，在算力枢 纽节点建设智算中心。2025 年，工信部按照“点、链、网、面”的工 作思路体系化推进全国一体化算力网络工作，持续提升算网综合供 给能力，一是稳步推动优化算力布局，实现算力中心“单点提质”； 二是着力 27 个国家级互联网骨 干直连点，杭州、上海、深圳和中卫 4 个新型互联网交换中心建设 运营步入正轨。国家枢纽间传输时延不超过 20 ms，集群到周边主 要城市传输时延不超过 5 ms，区域内算力节点间时延达 1 ms。 入算网络泛在、灵活、敏捷，技术创新和应用活跃。IP 承载网 具备广域无损超宽 400GE，TB 级样本数据小时级送达的能力，网络 吞吐 90%+，确保计算不等样本，提升训练效率；IP 2。我国综合算力格局呈现“东部引领、中 西部崛起”的协同发展态势。与去年相比，Top10 省份仍然以我国算 力枢纽节点区域为主，Top6 涵盖省份不变，均为我国东部地区，且 河北省综合算力指数持续领先全国，其他上榜地区以我国中西部地 区为主。省级行政区综合算力指数 Top10 历年情况详见图 3。 其中，河北省充分发挥京津冀枢纽节点算力资源优势，印发 《关于进一步优化算力布局推动人工智能产业创新发展的意见》等 政策

敏感信息 的数据，我们采用了差分隐私技术，通过对数据添加噪声的方式， 确保在数据分析过程中无法追溯到具体个人。 针对 AI 模型的隐私保护，我们采用了联邦学习框架，允许数 据在本地设备或边缘节点上进行处理，而无需将原始数据传输到中 央服务器。这不仅减少了数据泄露的风险，还确保了数据的本地化 合规。此外，我们定期进行隐私影响评估（PIA），识别潜在的隐 私风险，并采取相应的缓解措施。 智能体应用服务时，性能与可扩展性是 至关重要的考虑因素。首先，系统必须具备高效的响应速度，以确 保在用户请求激增时仍能保持稳定的性能。为实现这一目标，可以 采用分布式架构，通过负载均衡技术将流量分散到多个服务器节点 上，从而有效降低单一节点的压力。此外，缓存机制如 Redis 或 Memcached 的引入可以显著提高数据读取速度，减少数据库的直 接访问频率。 在多用户并发场景下，系统的数据库设计应具有高吞吐量和低 在数据存储层面，采用可伸缩的数据库架构是关键。推荐使用 NoSQL 数据库（如 MongoDB 或 Cassandra）或 NewSQL 数据 库（如 CockroachDB），这些数据库支持横向扩展，能够通过增 加节点来应对数据量的增长。对于复杂的查询需求，可以引入分片 技术，将数据分布在多个服务器上，从而提升查询性能。此外，结 合缓存机制（如 Redis 或 Memcached）可以有效降低数据库的 负载，进一步优化响应速度。

6.1.3 集成测试阶段...........................................................................142 6.2 时间节点安排....................................................................................143 6.2.1 各阶段起止时间 进行解码和格式化，以满足实际应用需求。 在架构设计中，还需考虑模型的扩展性和可维护性。通过模块 化设计，使得各个层级之间松耦合，便于后续的优化和更新。同 时，采用分布式训练策略，利用多 GPU 或多节点进行并行计算， 以提高训练效率。 为了确保模型的性能和稳定性，需进行多次验证和测试。验证 集和测试集分别占数据集的 10%和 20%。测试指标包括准确率、 召回率、F1 分数和困惑度等。通过持续监控这些指标，及时发现 或者在训练过程中使用早停法。此外，训练数据的标准化和归一化 也是必要的步骤，以确保不同特征值的尺度一致，从而提高模型的 训练效果。 最后，为了提高训练效率，可以使用分布式数据处理技术，将 大规模数据集分布在多个节点上进行并行处理。常用的工具包括 Apache Spark、Hadoop 等。对于超大规模数据集，可以采用数 据流水线技术，将数据预处理步骤与模型训练步骤分离，以减少 I/O 等待时间。 数据

模型训练和优化；采用分布式计算技术，确保模型在大规模数据处 理中的高效性；集成银行现有的数据管理系统，确保数据的完整性 和安全性。项目的管理范围包括：制定详细的项目计划，明确各个 阶段的任务和时间节点；组建专业的项目团队，包括数据科学家、 软件开发工程师、系统架构师等；建立有效的沟通机制，确保项目 各方的信息对称和及时反馈。 具体任务分解如下： - 需求分析与模型定制：根据银行业务需 为了保障系统的高可用性和容错性，需设计冗余架构和自动故 障恢复机制。系统应能够在硬件或软件故障发生时，在 10 秒内自 动切换到备用系统，确保服务的连续性。此外，系统需支持水平扩 展，以便在业务量增长时通过增加节点来提升处理能力，而无需停 机维护。 最后，安全性是银行系统不可忽视的性能需求。系统需具备高 效的加密和身份验证机制，确保数据传输和存储的安全性。同时， 系统应能够在不影响性能的情况下，实时检测和防御各种网络攻 5. 模型部署 在银行系统中部署 Deepseek 大模型时，首先需要对硬件资源 进行规划和配置。考虑到大模型的计算需求，建议采用高性能 GPU 服务器集群，以确保模型训练和推理的效率。每个节点应配 备至少两块 NVIDIA A100 GPU，以保证足够的并行计算能力。服 务器之间通过高速 InfiniBand 网络连接，确保数据传输的低延迟 和高带宽。 在软件环境配置方面，采用容器化技术（如