加速人工智能科学计算，服务算法创新 助力行业企业智能化升级 系统特征 AI 技术从单点能力突破迈向系统能力创新 超节点技术产业生态发展格局 基础特征：大带宽、低时延、内存统一编址 超大规模 扩展特征：多级缓存池化、资源灵活配比 超高可靠 灵活切分 大模型计算基础设施的挑战 小结 小结 CONTENTS 目录 超节点发展报告 02 当我们站在人工智能大模型技术飞速发展 阻塞的高带宽 互联，将数百上千个 AI 处理器编织为一个逻辑统一的高密度计算体，为高效计算提供了底层支撑。 系统能力则是超节点高效运转的保障，它需要具备大规模、高可靠、多场景等系统特征。大规模的 组网能力突破了单机扩展的硬件限制，为大规模算力聚合提供架构支撑；高可靠的运行特性化解了 网络、计算、存储等子系统的故障风险，保障集群作业的连续性；多场景的适配能力则能通过精细 化资源调度等机制，满足不同业务需求，最大化释放算力价值。 化资源调度等机制，满足不同业务需求，最大化释放算力价值。 本文系统性地提出并论证了 “超节点将成为 AI 时代的核心计算单元” 这一重要观点，清晰地呈 现了超节点的基础定义与特征，包括技术层面的基础特征和扩展特征，以及系统层面的大规模、高 可靠、多场景特征。同时，通过分析全球产业的演进路线、超节点稳定性的核心挑战以及技术产业 生态发展格局，为产业界指明了超节点的发展方向。 在未来计算的下一个十年，超节点无疑将成为推动 AI

独立发现了一些通往o1路上的核心理念，并且效果还好到受到了OpenAI 的认可 ➢ 如何通过有效的 Test-Time Scaling 和 Train-Time Scaling 提升模型的推理能力？ ➢ 得益于纯大规模强化学习，DeepSeek-R1 具备强大推理能力与长文本思考能力，继开源来备受关注。 ➢ DeepSeek R1-Zero 和 R1的出现再次证明了强化学习的潜力所在： ➢ R1-Zero 从 DeepSeek-v3-Base (671B) DeepSeek-R1-Zero 基于规则的奖励 Rule-Based Reward 推理为中心的大规模强化学习 Large-Scale Reasoning-Oriented RL 大规模推理为中心的强化学习，提升模型数学代码能力 RL驱动下自然涌现长文本推理能力 9 DeepSeek-R1 技术剖析：DeepSeek-R1 Zero 准确率奖励 + 格式奖励 10 DeepSeek-R1 技术剖析：DeepSeek-R1 Zero DeepSeek-R1 Zero: 无需监督微调SFT，纯强化学习驱动的强推理模型 ➢ 推理为中心大规模强化学习：组相对策略优化（GRPO）+ 瞄准 Reasoning 推理任务 ➢ 自我迭代提升Self-Evolution：随着训练步数的增长，模型的thinking response length

泰 证 券 研 究 所 n DeepSeek 开源使金融机构能够轻松获得前沿模型能力，且大幅降低部署成本。其通过对训练方式、算法架构和推理方 法 的工程化优化大幅降低了部署成本。近期采用大规模 RL 训练方法的阿里 QwQ-32B 等模型也在缩小规模的同时达到了 DeepSeek R1 671B 的应用效果，有望进一步催生银行落地应用。 n 我们认为金融行业人工智能的应用价值大体可以分为三个层次： 技术落地不及预期、竞争加剧、信息更新不及时等。 2 核心观点 DeepSeek 开源、低成本、强推 理 助推银行业应用 1 n DeepSeek 模型在 Post-Train 阶段大规模应用了强化学习方法。 R1 使用了冷启动 + 大规模强化学习方法， R1-Zero 版 本模 型使用纯强化学习方法。随训练过程推进，模型展现出了推理能力的扩展（高准确率和 long-CoT 能力涌现等） 。 图表：随步数提升 图表：随步数提升 R1-Zero 的 AIME 任务准确度 图表：深度思考能力提升 性能：后训练阶段大规模应用强化学习，表现推理能力扩展 资料来源： DeepSeek-R1: Incentivizing Reasoning Capability in LLMs via Reinforcement Learning ，中泰证券研究所

力是一种新型的计算模式，在实时感知多类型、多数量计算设备资源 状况的基础上，借助统一的度量范式对资源量进行对比与评估，再结 合任务的计算强度、时延要求和数据依赖等特征，以及网络带宽和能 量预算等约束，运用自适应的智能调度算法将大规模的计算任务分散 到不同的计算节点上，从而实现高效的数据处理和分析。本白皮书阐 述了分布式算力感知与调度的背景、体系结构、关键技术、应用场景、 发展建议，旨在为有兴趣了解分布式算力感知与调度相关概念和技术 一形态，边缘算力是前者重要组成部分，是分布式思想的一种具体体 现。边缘算力强调“地理近端性”，即计算能力的部署靠近数据源， 以满足低延迟和高实时性的需求；而分布式算力更关注“全局最优性”， 侧重任务的分解与协同，以处理大规模和复杂的计算任务可能调度至 边缘、核心云或两者协同，例如“云-边-端”分层推理。 分布式算力感知与调度的核心在于“感知”与“调度”两个相互 依存、紧密结合的环节。“感知”是基础和前提，它指的是系统具备 口类 型，以及 GPU 的型号、显存大小等。只有做到这些，系统才能够依据 业务的具体需求，将任务合理且高效地分配至最适宜的硬件资源上， 从而充分挖掘和发挥各类硬件的性能优势。举例来说，在处理大规模 数据的并行计算任务时，GPU 能够凭借其强大的并行处理能力大幅提 升运算速度；而在执行复杂逻辑运算与顺序指令时，CPU 则更具优势。 因此，系统需要准确把握不同硬件的特性，实现任务的最优分配。

其次，系统需具备强大的模型训练支持功能。这包括对多种主 流深度学习框架（如 TensorFlow、PyTorch 等）的兼容性，以及 硬件资源的动态分配与优化能力。系统应支持分布式训练，以提高 大规模数据训练的效率和模型性能。此外，系统还需提供训练过程 的实时监控与调试功能，便于开发人员及时调整训练参数和策略。 在数据考评方面，系统需要构建一套完整的考评指标体系，以 确保模型训练的有效性和科学性。考评指标应涵盖模型精度、泛化 种主流机器学习框架，如 TensorFlow、PyTorch 和 Keras，确保 用户能够根据具体任务选择最合适的框架。其次，系统需提供分布 式训练功能，支持多 GPU、多节点并行训练，以加速大规模数据 集的训练过程，同时具备动态资源分配功能，根据训练任务的复杂 度自动调整计算资源。此外，系统应内置多种优化算法，如 Adam、SGD 等，并提供超参数调优功能，允许用户通过网格搜索 或贝叶斯优化等方式自动寻找最优参数组合。 7×24 小时的全天候运行中，故障恢复时间 （MTTR）不超过 30 分钟，系统可用性达到 99.9%以上。为此，需 采用分布式架构和负载均衡技术，避免单点故障的发生。 其次，系统性能需满足大规模数据处理的需求。在峰值时段， 系统应能够同时支持至少 1000 个并发用户，数据处理速度应达到 每分钟 1000 条记录的吞吐量。响应时间方面，普通查询操作应在 2 秒内完成，复杂分析任务不超过

取和处理方面的强势能力，迫使教育界进一步反思现有 的教育框架，教师作为教学主体的功能性与人文性价值如何取舍？师-生-机三位一体的教育形态意 义几何？以知识传递和测评为核心的教育内容该如何升级？大规模的个性化教学是否真的有可能实 现？AI与人类是否会在社会和教育资源上展开竞争？这些重大问题，因AIGC的到来，再一次冲击了 现有的教育体系。 在微观层面上，教育的各场景和环节，都因AIGC技术 化。具体到教育行业，部分基础工作被替代，社会人力结构和人才需求被重塑。AIGC技术与现代 教育在教学内容、师资配置、交互方式等方面有着巧妙的吻合之处，彰显着技术落地的必要性。 AI技术也由教学辅助发展到自适应学习，推动大规模因材施教逐步落地。这些共同推高了时代对 AIGC+教育的瞩目，体现在资本投融资、各国政策监管、学术研究等多个方面。澳大利亚经历的 观望—禁止—反思—放开的挣扎历程，代表了全球的态度变迁，即不断与时俱进、同时守正创新。 www.iresearch.com.cn 中观：AI技术的发展及其教育推动 由教学辅助到自适应学习，AIGC技术变革推动大规模因材施教逐步落地 全球AI+教育经历了诞生期-摸索期-产业期三个阶段，在诞生期，AI和教育的结合主要围绕辅助教学进行探索，应用于答疑、练习、 模拟测试等环节，代替部分教师的重复性劳动。在机器学习的

成为数据中心发展关键。 据 IDC 数据，全球数据总量预计由 2021 年的 82.47 ZB 上升至 2026 年的 215.99 ZB ， 对应 CAGR 达 21.24% 。其中，大规模张量运算、矩阵运算是人工 智能在计算层面的 突出需求，高并行度的深度学习算法在视觉、语音和自然语言 处理等领域上的广 泛应用使得算力需求呈现指数级增长。 据 Cisco 数据，全球数据中心负载任务量预计由 资料来源：金十数据，国信证券经济研究所整理 表：不同技术架构 AI 芯片比较 种类 定制化程度 可编辑性 算力 价格 优点 缺点 应用场景 GPU 通用型 不可编辑 中 高 通用型较强、适合大规模并行运算；设计和制造工艺成熟。 并行运算能力在推理段无法完全发挥。 高级复杂算法和通用性人工智能平台。 FPGA 半定制化 容易编辑 高 中 可通过编程灵活配置芯片架构适应算法迭代，平均性能较高；功耗较低； 件。 lGPU 在训练负载中具有绝对优势。据 IDC 数据， 1H21 中国 AI 芯片市场份额中， GPU 占比高达 91.9% ，依然是实现数据中心加速 的首选。 GPU 通用型较强、适合大规模并行运算，设计和制造工艺成熟，适用于高级复杂算法和通用性人工智能平台。 lAI 芯片又称 AI 加速器或计算卡，是专门用于处理人工智能应用中大量 计算任务的模块。随着数据海量增长、算法模型趋向复杂、处理对象异

术路线，选择了北京、天津、上海等18个城市围绕以上六条技术路线开展城市数据基础设施建设试点试验， 并启动了11项数据基础设施国家标准研究制订。 目前，《指引》提出的六条技术路线成熟度还不高，还不能完全实现安全可信基础上的数据大规模流 通，全国各地方各行业特别是开展试点示范的18个试点城市，对各条技术路线的发展现状、技术特点、适用 范围、应用情况、发展趋势等方面有迫切需求。非试点地区和行业也对数据基础设施的试点建设进展高度关 态安全。在数据要素化发展新阶段，数据成为新型生产要素， 不仅对数据提出大规模、高通量、快速率的流通要求，充分发挥数据的要素价值作用，同时对数据安全也提出了新的、更 严格的要求，即要确保数据在大规模、高通量、快速率的流通过程中的安全。数据安全发展到了动态全过程安全阶段，这 时不仅需要更加强大的连接和算力功能，对数据更大规模、更快速率、更高通量流通利用的需求更强烈，而使用控制、隐 私计算、区域 式、统一的Lakehouse Platform、机器学习管理平台MLflow，以及数据治理解决方案Unity Catalog。其中，Apache Spark 是一个开源的大数据计算框架。Spark设计用于处理大规模数据集，提供了快速的通用数据处理平台，特别适用于需要高速 访问和处理的数据密集型任务。Sprak集成了多种前沿计算机系统优化技术，处理速度快，易用性强，可处理多种数据源和 格式。被广泛应用于金融

数据采集模块：支持多源异构数据的自动化采集和整合；  数据清洗模块：提供多种数据清洗算法，确保数据质量；  数据标准化模块：统一数据格式，方便后续处理；  数据存储模块：采用分布式存储技术，支持大规模数据的高效 存储；  数据检索模块：实现高效的分布式检索，满足实时查询需求。 通过上述模块的集成与优化，本方案将显著提升知识库数据处 理的效率和准确性，为 AI 大模型的训练提供高质量的数据支持。 关法律法规，如《个人信息保护法》和《数据安全法》。对于包含 个人敏感信息的数据，需进行匿名化或脱敏处理。同时，需建立数 据访问权限控制机制，确保只有授权人员能够访问和操作数据。 数据的存储和管理也是关键环节。对于大规模数据，建议采用 分布式存储系统，如 Hadoop HDFS 或云存储服务，确保数据的高 可用性和可扩展性。同时，需建立数据版本控制和备份机制，防止 数据丢失或损坏。 最后，数据处理的质量评估不可或缺。通过抽样检查、交叉验 的采集 工具可分为以下几类： 1. Web 爬虫工具：适用于从互联网上抓取公开数据。常用的工 具包括 Scrapy、BeautifulSoup、Selenium 等。Scrapy 适用 于大规模数据抓取，支持异步处理和分布式扩展； BeautifulSoup 适用于解析 HTML 和 XML 文档，适合小规模 数据抓取；Selenium 则适用于动态网页数据的抓取，能够模 拟用户操作获取