沿着 “规模定律”不断演进，从预训练扩展到覆盖预训练、后训练、逻辑推理的全流程，其参数与集群 规模实现“双万” 跨越，行业模型落地需求专业化。 传统的服务器集群架构在这场变革中瓶颈愈发明显。千亿级模型一次梯度同步产生的 TB 级数据 让传统以太网带宽难以承受；同时，伴随算力规模扩大，万级处理器带来的故障常态化，对自动化 运维与 RAS 能力提出了更高要求。在这样的背景下，超节点的出现成为了面向大模型未来发展的必 模型为代表的人工智能技术，成为驱动千行百业 颠覆性变革的核心力量。大模型所展现出的涌现能力与通用潜能，正在重构人类对创新的想象边界， 但同时也对底层智算基础设施提出更高要求和挑战：模型参数规模从千亿迈向万亿乃至更高，训练 数据量呈指数级增长，传统松散耦合的集群架构已难以满足高效的计算需求，智算基础设施正开始 新一轮的技术革新。 在此背景下，超节点应运而生。它并非偶然的技术产品迭代，而是智算需求与系统创新深度共振 与生态发展格局，清晰界定了超节点需具备的技术特征与系统属性，为产业界提供了具有前瞻性的 洞见和系统标准参考，助力行业在算力发展中找准技术方向，推动算力从规模堆砌走向效率跃迁。 国家超级计算广州中心主任 卢宇彤 当前，千亿乃至万亿参数的大模型与 MoE 等先进架构的兴起，对计算基础设施提出了前所未有 的苛刻要求。传统的硬件堆叠模式已难以满足其对于算力规模、通信效率及系统稳定性的需求。《超 节点发展报告》深刻阐述了

，鼓励金融创 新。 要素保障：保障用电用网 ，支持清洁能源 ，培养专业人 才。 政策服务：优化审批流程 ，统筹能源消费。 产业集群目标：打造“数据中心 - 智能终端 - 数据应用” 千亿级产业集群 国家政策导向 1. 《东数西算工程》 ：优化数据中心 布局， 引导算力资源向西部倾斜 ， 促 进东西部协同发展。 2. 《算力基础设施高质量发展行动计 划》：推动算力与能源融合 设计需求 技术需求 美国：以保持国家竞争力为目的，最先发展智能超算中心， 具备单体算力大、科研实验室居多 国内：近两年已有 30+ 城市建成或在建设智算中心，总体 投资规模超千亿，旨在带动当地产业智能化升级 参 AI 领域的竞争是未来世界领导权的竞争 NSF 基础科研 520 亿美元 创新与技术局 290 亿美元 关键技术研发 169 亿美元 应对 AI 的机遇和挑战，争取主动权 争取项目成果入选省级算力枢纽示 范案例 ，带动 “数据中心 - 智能终 端 - 数据应用” 产业链协同 ，助力 贵州千亿级数字产业集群建设。 l 算力规模 ：部署 144 台 8 卡 GPU 服务器 ，构建 1152 卡千卡级算力 集群 ，支撑千亿参数模型训练； l 网络能力 ： 基 于 大 二 层 架 构 与 Spine- Leaf 拓扑 ，实现端到端延

决问题的方法和步骤。 算力是指计算机的处 理的能力，由于深度 学习的算法，涉及非 常多的参数（不同功 能的 AI 算法参数的 个 数是不同的）， 有的 AI 算法的参数 达到几 千亿上万亿。 人工智能核心要素 语言是人类与其他动物最重要的 区别之一 逻辑思维以语言的形式表达 知识以文字的形式记录和传 播 如果人工智能想要获取知识 ，就必须懂得理解人类使用的不太精确、可能有歧义、 百万标注对比对 原始数据 数千亿单词： 图书、 百科、网页等 语言模型预训练 强化学习方法 二分类模型 语言模型预训练 SFT 模型 RL 模型 基础模型 RM 模型 预训练（ Pretraining ） 阶段需要利用海量的训练数据 ，数据来自互联网网页、维 基 百科、书籍、 GitHub 、论文、 问答网站等 ，构建包含数千亿甚至数万亿单词的具 有 多样性的内容。 利用由数千块高性能

5000GB 高质量中文数据 集 基于万条小规模数据集 大模型： 人工智能时代的操作系 统 参数 1750 亿 174 万亿 10 万亿 万亿 千亿 10 亿 5300 亿 2600 亿 2457 亿 100 亿 300 亿 千亿 百亿 , 浪潮信息 商扬科技等 商 汤 科 技 r6 数据日趋庞 大 模型日趋庞 大 任务日趋多 样 成本日趋高 昂

施。支撑智慧化转型的正是以云计算、大数据、人工智能 为核心的智慧计算。 智慧时代需要新型基础设施 疫情期间，腾讯和阿里每天都在扩充云计算资源，用 于支撑视频会议、在线办公等业务。百度地图则利用其每 天响应位置服务请求千亿次所产生的大数据，通过数据定 向、分析等途径助力流行病学调查。而浪潮的智能工厂里 各种智能设备以及背后的路径规划、图像识别等算法，也 是高效复工复产的必要条件。 我们见证了智慧计算是如何在这场战疫中发挥巨大作 级，以生态之力成就行业、产业AI大脑。 通过元脑生态，浪潮加快了智算中心的建设和应用服 务落地。例如，在金融行业，浪潮在国有六大行的服务器 占有率超过50%，在银行支撑着每日数亿笔金融交易，每 日TB级账务更改，每日数千亿元金融业务IT服务。浪潮和 声扬科技、赞华一起推出的“智慧声纹识别”解决方案在 某大型银行落地，该方案实现2秒语音通话即可确认客户身 份，1∶1声纹确认准确率达99.7%，大 幅提升了银行在客服、风控方面的工

认识大模型的局限性：算力消耗大 n 模型训练：算力消耗大  大模型庞大的参数量：通常包含数十亿到数千亿个参数  训练数据：通常包含数万亿到十几万亿token  训练时间：通常几个月 n 模型推理：算力消耗大，实时性差，支持的并发低  大模型庞大的参数量：通常包含数十亿到数千亿个参数  当前神经网络推理方式的特点：大量的矩阵乘法操作  Transformer推理阶段的“按token依次输出”机制：生成每个

中图分类号：TN915.5 文献标识码：A 开放科学（资源服务）标识码（OSID）： 摘 要： 人工智能训练的计算复杂度逐年猛增，所需的智能算力从每秒千万次运算增加 到数百亿次，甚至进入千亿级别，促进了大规模智算中心的建设。智算中心主 要满足智算算力的需求，其布局、建设及维护方案与传统的云资源池存在较大 差异，当前运营商对智算中心的布局以及详细方案并没有统一的建议和参考。 分析了 练和推理过程中，AI 大模型也需要通算来运行和处理 任务和数据的调度访问。 b）兼顾多元芯片和单一芯片。多元算力异构必 然带来多个智算软件生态，为模型适配和优化带来挑 战，需要进行差异化考虑。对于超千亿的大模型的训 练，因集群规模大、训练时间长、模型复杂，建议以单 一 GPU 芯片为主；对于百亿十亿等中小模型，其集群 规模在百卡左右，规模相对较小、模型适配相对简单， 可以进行多元芯片探索。

级存取 +TB 级带宽，数据读取效率提升 50% 大规模组网 • 超大组网规模： 2 层 1:1 无收敛的 AI 网络架构， 最 大支持 128K 集群规模组网，千卡到万卡平滑 演进 千亿稠密 / 万亿稀疏 多模态 更大数据量存储和读写 ( 模型参数、 CheckPoint Graph MindStduio IDE MindStudio 命令行 OS Data 数 据解析 21 昇腾已支持国内外开源开放大模型， 实测性能持平业界 国内唯一已完成训练千亿参数大模型的技术路线， 业界主流大模型 PyTorch 实测性能均达到 0.8~1.1 倍业界 1.00X 业界 1.05X 业界 70B 0.83X 业界 最新主流开源模型均已陆续适配并商用中

线上渠道拓展：建立或优化官方网站、移动APP、社交媒体等线上销售渠道，提供便捷 的保险购买、咨询和理赔服务。同时，与第三方平台合作，拓宽销售渠道，覆盖更多潜在客 户。中国人保移动销售平台“人保e通”实现保费收入过千亿，推动了车生活、家生活、健康 管理等多品类客户服务线上化。 智能化客户服务：引入智能客服机器人，实现24小时不间断的客户服务。通过自然语 言处理技术，机器人能够理解客户需求，提供准确的解答和建议，提升客户满意度。 拟人化程度。具体包括：可以识别同业保 单、能够听懂方言、说话自然、友好的数字人和硬件机器人形象等。 3.2.1.1 多层次大模型构建 �� 不同尺寸的大模型具有不同的性能及成本。相对来说，千亿级模型具备卓越性能，但 成本及数据需求高；百亿级模型则在保持较高性能的同时，成本更为可控；而更小尺寸的 模型则适用于特定任务，部署灵活且成本最低。因此，在具体应用选型时，保险公司应根据 自身实 为满足内部多样化场景的需求，阳光正言GPT的建设采用了多尺寸大模型构建的 思路。 （1）千亿级大模型建设采用采购商业大模型和基于开源大模型自研两种方案，根据具 体业务场景择优选择。考虑到千亿级大模型训练需要的算力和数据巨大，主要研发推理加 速技术，以提高模型响应速度、并发并降低硬件成本。利用提示词、检索增强生成和智能体 等技术充分激活千亿级大模型的理解、推理和规划等高级能力，赋能办公文秘、应用开发、 车险全

AI-Generated Content ，人工智能生成内 容）的出现，使传统的内容创作模式成本大大降低， 创作内容的数量大大提升。 2. AIGC+ 大模型，让我们面对的现实世界，被以数 千亿级的维度解构，同时，又被以不可思议的维度 重新组合了，进而产生了新的美学。 3. AIGC 时代的营销活动，越来越需要的只是“创意” 本 身 大模型时代的保险营销 来源 : 腾讯研究院