成为AI算力集群的线性度和稳定性的关键，也面临新的挑战： 一是高性能传输挑战。大模型需要大量的数据进行训练和推 理，千亿模型单次计算迭代内，梯度同步需要的通信量达百GB 量级；MoE稀疏模型下张量并行的卡间互联流量带宽需求达到数 百至上千GBps量级。服务器节点间互联网络会承载数据并行和流 水线并行流量，千亿参数模型如GPT-3并行训练节点间带宽需求 达到13.5GB（108Gbps），如表2所示。万亿模型参数面带宽需求 型参数面带宽需求 增加到200Gbps至400Gbps。AI智算网络需提供更高的带宽来支持 数据快速传输，并且支持算力的横向扩展能力。 表2 千亿稠密模型GPT3千卡PTD训练通信量 注：PDT，P 指 Pipeline 并行，D 指 Date 数据并行，T 指 Tensor 并行 参数：模型 GPT3-175B，h=12288，S=2048，Ndecoder=96，B=1536，D=16，T=8，P=8 也带来了模型参数量增大，数据规模增大，集群算力急剧提升的 需求。网络性能 10%的提升，能够撬动整体性能、投入产出和能 耗效能数倍的提升，因此高算力集群的构建，依赖高性能互联的 网络。 一是使用高带宽网络设备释放算力性能。千亿参数大模型训 练过程中通信占比最大达 50%，且模型越大、通信占比越高。以 GPT3.5为例，当接入带宽提升16倍，通信占比从35%降低至3.7%， All-Reduce 训练周期缩短 14 倍。由此可见网络带宽是构建高集

沿着 “规模定律”不断演进，从预训练扩展到覆盖预训练、后训练、逻辑推理的全流程，其参数与集群 规模实现“双万” 跨越，行业模型落地需求专业化。 传统的服务器集群架构在这场变革中瓶颈愈发明显。千亿级模型一次梯度同步产生的 TB 级数据 让传统以太网带宽难以承受；同时，伴随算力规模扩大，万级处理器带来的故障常态化，对自动化 运维与 RAS 能力提出了更高要求。在这样的背景下，超节点的出现成为了面向大模型未来发展的必 模型为代表的人工智能技术，成为驱动千行百业 颠覆性变革的核心力量。大模型所展现出的涌现能力与通用潜能，正在重构人类对创新的想象边界， 但同时也对底层智算基础设施提出更高要求和挑战：模型参数规模从千亿迈向万亿乃至更高，训练 数据量呈指数级增长，传统松散耦合的集群架构已难以满足高效的计算需求，智算基础设施正开始 新一轮的技术革新。 在此背景下，超节点应运而生。它并非偶然的技术产品迭代，而是智算需求与系统创新深度共振 与生态发展格局，清晰界定了超节点需具备的技术特征与系统属性，为产业界提供了具有前瞻性的 洞见和系统标准参考，助力行业在算力发展中找准技术方向，推动算力从规模堆砌走向效率跃迁。 国家超级计算广州中心主任 卢宇彤 当前，千亿乃至万亿参数的大模型与 MoE 等先进架构的兴起，对计算基础设施提出了前所未有 的苛刻要求。传统的硬件堆叠模式已难以满足其对于算力规模、通信效率及系统稳定性的需求。《超 节点发展报告》深刻阐述了

，鼓励金融创 新。 要素保障：保障用电用网 ，支持清洁能源 ，培养专业人 才。 政策服务：优化审批流程 ，统筹能源消费。 产业集群目标：打造“数据中心 - 智能终端 - 数据应用” 千亿级产业集群 国家政策导向 1. 《东数西算工程》 ：优化数据中心 布局， 引导算力资源向西部倾斜 ， 促 进东西部协同发展。 2. 《算力基础设施高质量发展行动计 划》：推动算力与能源融合 设计需求 技术需求 美国：以保持国家竞争力为目的，最先发展智能超算中心， 具备单体算力大、科研实验室居多 国内：近两年已有 30+ 城市建成或在建设智算中心，总体 投资规模超千亿，旨在带动当地产业智能化升级 参 AI 领域的竞争是未来世界领导权的竞争 NSF 基础科研 520 亿美元 创新与技术局 290 亿美元 关键技术研发 169 亿美元 应对 AI 的机遇和挑战，争取主动权 争取项目成果入选省级算力枢纽示 范案例 ，带动 “数据中心 - 智能终 端 - 数据应用” 产业链协同 ，助力 贵州千亿级数字产业集群建设。 l 算力规模 ：部署 144 台 8 卡 GPU 服务器 ，构建 1152 卡千卡级算力 集群 ，支撑千亿参数模型训练； l 网络能力 ： 基 于 大 二 层 架 构 与 Spine- Leaf 拓扑 ，实现端到端延

型语言 模型提供互联网规模的数据 ，以此推动金融领域的开源发展。 2 ） 国内金融垂类模型百花齐放。奇富科技率先宣布推出自研的金融行业 通用大模 型“奇富 GPT” ；度小满推出国内首个千亿级中文金融大模型“轩辕” ；腾讯云公布腾讯云金融行业大模型 ， TI-OCR 大模型帮助银行解决 日常业务问 题；恒生电子进一步升级金融大模型 LightGPT ，并发布多款光子系列大模型应用产品 融领域的数据分散在各个金融机构，通用大模型缺少金融数据进行训练，金融专业知识不足；另外一方面，如果从底层开始训练大模型， 所需要投入的算力成本非常高，比如千亿级别的通用大模型，训练一次需要付出几千万的成本 在特定任务上，精确性与适用性欠缺，需要更多优化与定制。金融垂类大模型通常会投入大量的时间和资源来收集和整理金融领域的专业 ，应用的场景相对广泛 BlueLM 是 vivo 自主训练的大语言模型，出自于 vivo AI 全 球研究院。 vivo 于 11 月 1 日开发者大会上正式发布自研 AI 大模型矩阵，包括十亿、百亿、千亿三个不同参数量级 的 5 个自研大模型。 BlueLM 主要可以应用在手机智能应 用中，进行基础手机指令操作、实时语音助手、查询信 息以及一些基于手机端的办公应用。

0 等最新技术 全球首个百亿中英对话生 成模型 Plato-XL 2019.07 全球首个大规模隐变 量对话模型 Plato 文心一言大模型 4.0 2021.12 全球首个知识增强千亿大模型 鹏程 · 百度 · 文心 2024.06.28 文心一言大模型 4.0 Turbo 2021.12 全球最大中文跨模态生成 模型 Ernie-viLG 2021.07 全球首个知识增强百亿 包含不同参数规格的模型， 以 适配不同的业务场景。十亿级参数的 Pangu E 系列可支撑手机、 PC 等端侧的智能应用； 百 亿级参数的 Pangu P 系列 ，适用于低时延、 高 效率的推理场景；千亿级参数的 Pangu U 系 列 适用于处理复杂任务；万亿级参数的 Pangu S 系列超级大模型能够帮助企业处理更为复杂的 复杂逻辑推理是大模型成为行业助手的关键。 盘古大模型 5.0 将思维链技术与策略搜索深 合作落地（工程师仅需调用华为云提供的 API 就可以用场景理解大模型来完成给视 频 数据分类的工作） 。 但是大模型的训练成本高昂。 GPT-3 训练一次的成本可能 在 12 00 万人民币。 而华为方面 ，在训练千亿参数的盘古大模型时 ，也调用了超过 2000 块 的昇腾 910 ，进行了超过 2 个月的训练 ， 成本极高。 一方面选择小样本 训练 ， 通过自 监督的方法 ， 以更少的标注数据来做训练

准、地方定赛道、园区做承载、基金做杠杆、场景做牵引”的系统推 进模式。区域竞争不再是简单的“给钱、给地”，而是围绕“技术闭环 —量产能力—数据回流—商业闭环”展开的全链条竞速，未来 2-3 年 将进入“万台级量产、千亿级集群、场景全面渗透”的关键窗口期。 （一）总体趋势：从“单点突破”到“系统布局” 在国家战略层面，2025 年国务院《政府工作报告》首次将“具身 智能”与“智能机器人”并列纳入未来产业培育清单，标志着其从部委 ”垂 直整合，北京侧重原始创新，广东注重场景牵引，四川、吉林聚焦医 24 工交叉，山东、天津发力“AI+制造”改造；另一方面，“市—区—园” 三级递进，深圳、广州、杭州、成都、苏州等城市将“千亿级产业集 群”拆分为“特色园—孵化器—中试线—场景集”，并配套 100-150 亿元 量级的产业基金。 技术供给层面，部委文件中首次出现“具身大小脑模型”“全身运 动控制”等术语，政策关注点从“大语言模型”延伸到“多模态感知—运 标准、检测底座，实现“全生命周期”治理。 （二）区域特点：北京重创新、长三角强生态、珠三角促出海 京津冀以原始创新为核心定位，成为具身智能产业重要策源地。 北京突出“国家战略科技力量”，计划 2027 年形成“千亿级”产值，致 力于打造“全球具身智能开源高地”；天津依托老工业基地优势，“AI+ 25 制造”特色显著，布局 37 个工厂级场景，并提供 500 万元改造补贴， 目标成为“AI 改造老工业城市样板”。长三角凭借完整产业链与活跃

施。支撑智慧化转型的正是以云计算、大数据、人工智能 为核心的智慧计算。 智慧时代需要新型基础设施 疫情期间，腾讯和阿里每天都在扩充云计算资源，用 于支撑视频会议、在线办公等业务。百度地图则利用其每 天响应位置服务请求千亿次所产生的大数据，通过数据定 向、分析等途径助力流行病学调查。而浪潮的智能工厂里 各种智能设备以及背后的路径规划、图像识别等算法，也 是高效复工复产的必要条件。 我们见证了智慧计算是如何在这场战疫中发挥巨大作 级，以生态之力成就行业、产业AI大脑。 通过元脑生态，浪潮加快了智算中心的建设和应用服 务落地。例如，在金融行业，浪潮在国有六大行的服务器 占有率超过50%，在银行支撑着每日数亿笔金融交易，每 日TB级账务更改，每日数千亿元金融业务IT服务。浪潮和 声扬科技、赞华一起推出的“智慧声纹识别”解决方案在 某大型银行落地，该方案实现2秒语音通话即可确认客户身 份，1∶1声纹确认准确率达99.7%，大 幅提升了银行在客服、风控方面的工

倡议共建算力监测与调度体系，打破区域壁垒；统一技术标准与安全规范；深化区域协同 与产业融合，并创新东西部利益共享与补偿机制。  公布发展目标：计划到2025年建成30万个标准机架，数字经济核心产业规模突破千亿元。 《关于打造“算力之都”促进人工智能产业发展的若干政策（试行）》  提供高额补贴：对算力服务提供方按实际服务金额的1%给予资助（最高1000万）。  对使用算力企业按费用50% 资助（最高100万）。 等缓存机制面临巨大压力。多级缓存技术（如HBM + DRAM + 专业存储）通过“以存代算”策略显著减轻计算负担，提升推理效率，支持更长上下文理解和更 复杂任务处理。  多机并行推理支撑超大模型与多模态应用 面对千亿级参数模型和百万级长度多模态输入带来的计算与内存挑战，多机并行推理成为必然选择。通过 节点内NPU高速互联与节点间RoCE网络协同，实现计算资源的高效调度与通信优化，显著提升推理吞吐并降 低延迟。

2023 年 5 月中旬 ，奇富科技首先宣布推出自研的金融行业通用 大模型——奇富 GPT ，在业内被称为“ 国内首个金融行业通用大模型 ”。 2023 年 5 月下旬 ，度小满推出国内首个千亿级中文金融大模型“轩 辕 ” ，聚焦于金融名词理解、金融市场评论、金融数据分析和金融新闻理解等任务。恒生电子于 2023 年 6 月发布了金融大模型 LightGPT ，并 在 10 ）金融数据覆盖面广。 同花顺利用自身过去十几年的数据积累以及 市场上公开的金融数据 ，预训练金融语料达到万亿级 tokens ， 同时 拥有一套自动化的流程 ，用于数据获取、清洗以及数据质量的验证， 每月可新增数千亿 tokens 优质预训练数据以及数十万条优质微调数据， 确保数据的实时性和准确性。 2 ）模型训练创新优化。构建了包括数据配比实验方案、 scaling law 实验体系、模型架构优化、分布式训练框架优化、硬件加速技术等

紧急联系手环/手表 陪伴机器人 数字疗法产品 智能相框 老年人专用社 交软件 认知障碍筛查与训练软件/游戏 适老化改造 科技赋能 养老产业十二大类 适老化智能科技产品 x x 市场规模：千亿蓝海，蓄势待发 Ø 中国适老化智能科技产品市场规模在过去几年中实现了高速增长，根据亿欧数据，2025年市场规模将 达到5554亿元，并有望在2030年接近1万亿规模，成为银发经济中增长最快的赛道之一。 外防控”，形成预防-干 预-康复的闭环。 医疗与消费电子产业边界加速融合 x x 建议：构建协同发展生态，激活银发经济新动能​ Ø 当前中国适老化智能科技行业在政策驱动与技术革新下已形成千亿级市场规模，但仍面临标准缺失、 支付瓶颈及数字鸿沟等核心挑战。需通过政策引导、企业创新与消费者教育三方协同，推动行业从单 一硬件销售向“产品+服务+生态”转型。 资料来源：三个皮匠报告网研究绘制