强解 释性但泛化 能力 弱。 基于海量数据与 大规模预训练； 代表算法： DeepSeek 系列 Qwen 系列 GPT 系列 通过模型组合提升 预测精度； 代表算法： 随机森林 梯度提升决策树 神经网络 ) 深度学习机器学习人工智 能 4/37 在人工智能领域，数据、算力与算法构成发展基石——数据驱动模型训练，算力支撑复杂计算，算法优化 技术路径，三者协同推动人工智能向更高阶形态演进。 利用模型、仿真生成 虚拟现实 自动驾驶 生态 PyTorch TensorFlow MindScope 训练算法 无监督预训练 强化学习 前沿探索阶段 底层计算库： CUDA 、 CANN( 华为 ) 有监督微调 对比学习 * 互联网爬取、规模大 LLM 预训练 多维并行算法 状态监测、任务调度 语言通用模型： 通用模型是当下研究热点与未来趋势； 研究高效训练算法具有重要创新意义。 如何提高数据的规模与质量 是当前人工智能领域的关键问题。 5/37 早期的深度学习受限于计算能力和数据规模，难以发挥优势。随后多层感知机与卷积神经网络结合反向传 播算法，显著提升了模型的学习能力。随后，基于注意力机制的 Transformer 架构改变了自然语言处理 的范式，使大规模预训练成为可能。近年来，大模型凭借

与金融的结合主要有两条技术路径：①通用模型 + 金融语料训练金融大模型 ，②金融垂类大模型。 1 ）双方优劣具有相对性。通用大模 型 优势：泛用性强、灵活性和利用率高、可迁移性强。劣势：特定领域深度较浅、模型复杂、训练时间长；金融垂类模型优势：领域专业性、针 对 性的解决方案、高精度和合规性。劣势：适应性限制、更新和维护复杂度、数据利用率低。 2 ）通用大模型通过金融语料训练超越金融垂类模 型 可能性较小。通用大模型在行业数据量 Grok ，模型通过 X 平台实时了解世界 ， GrokV1.5 或于 2024 年 3 月发 布。 2 ） 国内通用百度先行 ，多家企 业推出相关产品。百度推出“文心大模型” ，是目前国内预训练大模型应用端生态最好的大模型之一； 阿里 发布通义千问 2.0 ，专业维度能力较 强； vivo 发布 BlueLM 大模型 ，应用的场景广泛；月之暗面发布 Moonshot 大模型， 目前位于第一梯 GPT 系列、文心一言、通义千问、腾讯混元以及科大讯飞表现较好。 金融垂类模型国外发展先行 ，国内成品问世。 1 ） 国外彭博 BloombergGPT 率先登场。 BloombergGPT 的混合训练方法使其模型在金融任务上 的表 现大大超过了现有的大语言模型 ，而在通用场景上的表现则与之相当 ，甚至优于现有模型。 AI4Finance Foundation 开发 FinGPT ，为金融大

使用人工智能语义算法，人工标注涉心理疾病自杀相关警情的正负样本， 训练模型智能识别因心理疾病自杀相关警情。 涉身体疾病自杀模型 使用人工智能语义算法，人工标注涉身体疾病自杀相关警情的正负样本， 训练模型智能识别因身体疾病自杀相关警情。 涉职场因素自杀模型 使用人工智能语义算法，人工标注涉职场因素自杀相关警情的正负样本， 训练模型智能识别因职场因素自杀相关警情。 涉学业问题自杀模型 使用人工智能语义算法，人工标注涉学业问题自杀相关警情的正负样本， 训练模型智能识别因学业问题自杀相关警情。 涉师生矛盾自杀模型 使用人工智能语义算法，人工标注涉师生矛盾自杀相关警情的正负样本， 训练模型智能识别因师生矛盾自杀相关警情。 140 XX 县公安局“情指行”一体化实战平台建设方案 涉校内矛盾自杀模型 使用人工智能语义算法，人工标注涉师生矛盾自杀相关警情的正负样本， 训练模型智能识别因学业问题自杀相关警情。 使用人工智能语义算法，人工标注因校园欺凌自杀相关警情的正负样本， 训练模型智能识别因校园欺凌自杀相关警情。 涉家庭矛盾自杀模型 使用人工智能语义算法，人工标注因家庭矛盾自杀相关警情的正负样本， 训练模型智能识别因家庭矛盾自杀相关警情。 涉网络教唆自杀模型 使用人工智能语义算法，人工标注因网络教唆自杀相关警情的正负样本， 训练模型智能识别因网络教唆自杀相关警情。 涉琐事纠纷自杀模型

.........................................................................................39 5.3 模型训练与优化模块.............................................................................................. .........................................................................................56 7.2 模型训练与验证................................................................................................ 的应用还可以显著提升模型的自适应性，使其能够 更好地应对市场变化，从而在长期交易中实现更稳定的收益。本文 将详细探讨如何将 DeepSeek 框架引入股票量化交易的具体方案， 包括数据预处理、特征工程、模型训练与优化、策略回测及风险控 制等关键环节，为金融机构和投资者提供一套切实可行的应用方 案。 1.1 股票量化交易概述 股票量化交易是一种通过数学模型和计算机技术来执行交易策 略的方法，旨在通

塑着各行各业的发展蓝图。在此背景下，算力资源已成为支撑AI技术持续进步不可或缺的基石，而算力中心，作为算力资源的核心承载平台，正迎来 崭新的发展机遇。其中，定制批发业务凭借其高效整合算力资源的能力，为大模型训练提供了稳定、可靠的算力支持，成为推动AI技术革新与应用拓 展的关键力量。 • 鉴于此，本报告将聚焦于算力中心行业定制批发业务的研究，特别是在中国不同地域市场供需关系的深度剖析上，力求提供更为详尽的数据支持与深 限制，这些地区的算力中心服务资源或将率先面临供不应求的局面。算 力中心定制批发业务在不同地理区域的供需格局存在一定差异，为行业参与者带来了多元化的市场机遇与挑战。 ➢ 以环京地区为典型，得益于AI训练需求的持续增长，行业下游需求迅速扩张。在各地区中，环京地区有望率先步入供不应求阶段。预计到2025年， 环京地区将率先迎来区域性价格拐点，为算力中心行业的高质量发展注入新动力。 资料来源：灼识咨询 主要由算力设备、 存储设备、网络设备及管理运维系统四大核心要素构成。 • 算力资源的部署与利用离不开算力中心的支撑。核心使命是提供强 大的算力支持，以应对各类复杂的计算挑战，如数据处理、AI模型 训练等。 • 算力中心通过高速网络连接形成计算集群，提供高性能、高可靠性 和高可扩展性的计算能力，支持数据分析、模拟计算和人工智能等 复杂任务。 类型 设备种类 设备名称 IT设备 连接器 光纤

逐包负载均衡技术 24 23 目录 4.2.3 拥塞控制技术 26 4.2.3.1 端网协同拥塞控制技术 4.2.3.2 FlexBuffer拥塞控制技术 28 26 4.2.3.3 拉远训练精准流控技术 29 4.2.3.4 AI ECN 2.0技术 30 4.2.4 在网计算技术 31 4.2.5 在网存储技术 31 4.2.6 高稳韧性技术 33 4.2.6.1 故障恢复技术 的目标， 2.1 数据中心网络产业发展趋势 2 3 并阐述了算力内网络高性能传输调度要求，以及无损网络技术应用要求。数据中心 网络连接算力，其性能直接决定了整个数据中心的实际算力水平。以大模型训练为 例，需要同时协调数千张甚至数万张算力卡资源，数据吞吐量成为AI计算的关键瓶 颈，需要高效的数据流水线支持，对网络的带宽、时延和可靠性都提出了极高要求。 因此，要提升数据中心算力服务能力，就必须进一步提升数据中心网络性能。根据 性运营枢纽”的跃迁，谁就将在未来激烈的数字化和智能化竞争中占据先机。 2.3 智算数据中心网络发展趋势与挑战 AI产业正迎来前所未有的快速发展期，呈现出几大显著趋势变化。 1）大模型规模指数级增长，头部OTT大模型持续摸高，大模型训练带动网络发展 模型性能竞赛白热化: 2025年上半年，OpenAI的GPT-4.5、Google的Gemini 2.5 Pro、Anthropic的Claude 4等模型在复杂推断能力上持续突破。例如，Gemini

算法，可自动读取实时和历史数据，实现对关键设备的精准诊断。 ■ 算力与算法优化：硬件采用全国产 GPU 算力集群，提升大模型训练效率；软件层面构建 电 力行业调度知识库，采用“大小模型”协同机制，即“大模型 + 机理模型”融合方式，发挥 二者优势。 ■ 物理 - 数据混合驱动：将电力系统物理方程嵌入大模型训练，提升可解释性和泛化能力。 ■…… 模型技术不断创新和突破 中国南方电网 CHINA SOUTHERN ，具备意图识别、多轮对话等能力。 应用场景日益丰富 中国南方电网 CHINA SOUTHERN POWER GRID 24 1. 行业专用大模型 · 从通用大模型向电力垂直领域深化，构建“预训练 + 微调”的行业底座 ( 如“电力 GPT”) 。 2. 多智能体协同 · 大模型作为调度中枢，协调发电、储能、用户等多元主体，支撑新型电力系统“源网荷 储”互动。 3. 数字孪生集成 源的“无条件”接入创造无限可能。 电力人工智能的研究和思考 中国南方电网 CHINA SOUTHERN POWER GRID 28 关键技术 电力系统 高维向量表征 ( 数字数据系统 ) 电力大模型 训练和推理 多领域知识融合的 电力智能应用 电力人工智能系统 AI EPS 核心成果 电力人工智能系统 技术挑战 信息 表征 算法 基础 知识 融合 智能 决策 电力人工智能的研究和思考

...................................................115 2.3 大模型训练与微调技术 ....................................................119 2.3.1 预训练技术............................................................. 真度。为此，SRGAN （super-resolution GAN）[33] 首次引入生成对抗训练，联合优化感知损失和对抗损失，在保 留结构一致性的同时生成具有丰富纹理细节的图像。ESRGAN（enhanced SRGAN）[34] 进 一步提出残差密集块增强特征流通，并采用相对判别器强化对抗训练，显著提升了重建图像 的视觉真实感。 传统深度学习方法多基于固定退化假设，难以适应真实场景的复杂退化过程。为弥合合 ative adversarial network, GAN）学习 退化核估计，无需配对数据；BSRGAN[37] 提出更全面的退化模型，通过随机组合模糊、噪 声和下采样核构建训练数据，并引入谱归一化判别器提升训练稳定性，大幅增强了模型在真 实场景的泛化能力。近年，Transformer 架构在超分领域展现突破性潜力。SwinIR [38] 将 S win Transformer 的移位窗

： AI 技术落地不及预期、竞争加剧、信息更新不及时等。 2 n DeepSeek 开源使金融机构能够轻松获得前沿模型能力，且大幅降低部署成本。其通过对训练方式、算法架构和推理方 法的工程化优化大幅降低了部署成本。近期采用大规模 RL 训练方法的阿里 QwQ-32B 等模型也在缩小规模的同时达到 了 DeepSeek R1 671B 的应用效果，有望进一步催生银行落地应用。 核心观点 DeepSeek Post-Train 阶段大规模应用了强化学习方法。 R1 使用了冷启动 + 大规模强化学习方法， R1-Zero 版 本模 型使用纯强化学习方法。随训练过程推进，模型展现出了推理能力的扩展（高准确率和 long-CoT 能力涌现等） 。 性能：后训练阶段大规模应用强化学习，表现推理能力扩展 资料来源： DeepSeek-R1: Incentivizing Reasoning Capability 能力 DeepSeek-R1-Zero 的能力随步数提升 4 n DeepSeek 通过优化训练方法显著降低了算力消耗，使其在大规模数据处理中的成本更具优势。 它在 MoE 架构的基础上， 通过多头潜注意力机制（ Multi-Head Latent Attention ， MLA ）进行优化；在后训练阶段采用冷启动 + 大规模强化学习 方 式，不再使用传统 SFT 做大规模监督微调， 甚至绕过了一些

得专业知识不足，并不能满足业务要求； 需要利用本地数据训练垂类行业大模型，大 幅度提升模型性能 • 大模型生成的回复违背了用户输 入中的任务指示或者任务输入； • 大模型生成的回复出现了自我矛 盾； • 大模型生成的回复与公认的事实 知识出现了冲突。 • 需要不断增加高质量的标注数据， 优化模型加以解决 3. 保护数据要素隐私 训练垂类行业模型时，面临 保护各类本地数据隐私的问 保护各类本地数据隐私的问 题。包括，训练数据，本地 模型，提示词等。 多个数据源联合训练一个大 模型时极有可能会暴露每个 数据源的用户隐私和影响信 息安全。 例子： 问：请总结以下新能源车的介绍， 并突出说明其优点。 答：总体上看，这款最新的 XXX 车性能优异，尤其是其续航里程 达到了 2 千公里。 机器学习 模型实现 2% 数据标注 25% 数据整合 10% 数据清洗 25% 通用大模型不能直接应用 通用大模型不能直接应用 对数据相关的处理过程可占据 超过 80% 的时间，其中数据标 注环节的耗时占比可达 25% 1. 通用大模型存在幻觉问 题 机器学习项目中不同环节耗费 时间结构比重 机器学习 模型训练 10% 数据识别 5% 机器学习 模型调参 5% 机器学习 算法开发 3% 数据增强 15% 3 AI Agent 如何解决通用大模型短板 知识库检索增强生（ RAG