支撑大模型创新及云服务场景 加速人工智能科学计算，服务算法创新 助力行业企业智能化升级 系统特征 AI 技术从单点能力突破迈向系统能力创新 超节点技术产业生态发展格局 基础特征：大带宽、低时延、内存统一编址 超大规模 扩展特征：多级缓存池化、资源灵活配比 超高可靠 灵活切分 大模型计算基础设施的挑战 小结 小结 CONTENTS 目录 超节点发展报告 02 当我们站在人工智能大模型技术飞速发 一体化的设计思维，将计算、存储、网络与运维管理深度融合，锻造出高性能、高效率、高可靠的 单一逻辑实体。它标志着一个全新时代的开启——智算基础设施正从松散组合的算力堆叠阶段，迈 入软硬协同、全局优化的超节点阶段，旨在有效破解超大规模 AI 训练与推理中所面临的扩展性瓶颈、 效率损耗与能耗墙难题，为 AI 的持续创新提供坚实、高效、绿色的算力基座。 为系统分析超节点技术的发展逻辑、技术创新、产业价值以及未来趋势，我院与华为及相关单位 人工智能高速演进背景下，算力需求呈指数级增长，大模型竞争已进入 “参数规模摸高” 与 “训 练效率提升” 并行的新阶段。Scaling Law（规模定律）将以多元形态长期生效，持续推动人工智 能技术突破能力边界，而超大规模 Transformer、MoE（混合专家模型）、稀疏注意力模型等，已 成为可扩展模型的核心架构方向。在复杂的混合并行策略下，随着并行规模持续扩大，系统节点间 通信带宽与可用显存容量成为制约大

夯实“元设施”基础底座。加快 IPv6、5G+、卫星互联网、 工业互联网、车联网等新一代网络技术开发运用及基础设施建 设，适当超前部署自动感知终端网络。加快建设高效低碳的数 据中心、智算中心等新型存算基础设施，夯实超大规模、实时 算力的算力支撑。推进云网协同和算网融合发展，支持发展 GPU 实时渲染等高性能计算，鼓励算力、算法、数据、应用资 源集约化和服务化创新。提升区块链基础设施能力建设，强化 安全隐私计

安全事件响应速度，通过精细化管理降低城市能源消耗，是提升城市 治理现代化水平的关键技术，更是打造安全、高效、绿色、宜居未来 47 城市不可或缺的数字底座。 4.3 大模型分布式训推 由于机器学习与人工智能的迅猛发展，超大规模语言模型已跃升 为科技竞逐的新高地。然而，要训练和上线诸如 GPT-4 之类的模型， 必须依托巨大算力与高速网络协同配合，这对计算与通信基础设施都 提出了极为严苛的要求。训练过程中需吞吐 TB-级乃至 幅提升；在推 理环节，模型副本可根据请求分布和节点健康状况灵活下沉与回收， 为全球用户提供低时延一致性响应。预测驱动的弹性扩缩容与秒级故 障切换机制进一步增强了系统的鲁棒性和资源利用率，使得超大规模 语言模型的迭代周期缩短、运行成本降低，并在面对突发负载或硬件 故障时依然能够保持平滑、稳定的服务表现。因此，分布式算力感知 与调度能够成为支撑下一代生成式 AI 平台快速演进和大规模部署的 实现跨域全局化聚 合，形成覆盖多数据中心与云平台的协同体系。企业通过构建统一资 源池，推动离散算力向可度量、可流通的服务形态转化，智能调度系 统依托自适应算法实现精准动态供给。行业实践表明，超大规模云服 务商已建立体系化调度框架，显著提升资源集约效能；混合云架构通 过能力下沉构建全域协同的算力供给网络。开放标准体系持续深化 ——硬件层依托开放计算推进异构环境兼容，软件层基于云原生规范

R1正式发布，拥有卓越的性能，在数学、代码 和推理任务上可与OpenAI o1媲美。 DeepSeek创始人 梁文峰 2.2 国内的大模型产品 n 通义千问 通义千问是阿里云推出的一个超大规模的语言模型，它具备多轮对话、文 案创作、逻辑推理、多模态理解、多语言支持的能力。通义千问这个名字 有“通义”和“千问”两层含义，“通义”表示这个模型能够理解各种语 言的含义，“千问”则表示这个模型能够回答各种问题。通义千问基于深 企业级大模型落地解决方案服务 来自UST 6.1 企业级大模型落地解决方案服务 来自UST 6.1 企业级大模型落地解决方案服务 6.2 DeepSeek大模型一体机 提供1.5B轻量版至671B超大规模模型的灵活 调用，满足边缘端轻量化推理与云端复杂训 练的双重需求，支持模型蒸馏与定制化开发， 助力企业“按需取用” 全尺寸模型支持 通过智能算力管理引擎，实现CPU、GPU等 异构资源的动态分配，提升资源利用率，降

中国加速计算服务器 半年度市场跟踪报告》分析，2025 年中国智能算力规模将达到 1037EFLOPS，预计到 2028 年将达到 2782EFLOPS，五年年复合增长 率达到 46.2%。依托超大规模市场优势，我国算力水平和供给能力大 幅提升，形成了体系完整、规模庞大的产业体系。 我国高度重视算力产业与技术的发展，中央及各级地方政府出台 了一系列政策文件以引导其健康发展。例如，《数字中国建设整体布

计算密集型工作负 载， 如人工智能、数据分析、图形和科学计算等。 FY23 ，数据中心 领域收 入为 150.05 亿美元，同比增长 41.4% ，主要受益于加速计 算平台和网 络组合的超大规模及云端使用的影响。 l 游戏（ Gaming ）领域中，公司利用 GPU 产品和复杂软件，以更流 畅、 更高质量的图形来增强游戏体验，包括用于游戏台式机和笔记 本电脑 的 GeForce

集群系统数据管理和软硬件资源管理功能，串联整个工作 流程，帮助用户合理地进行作业调度和资源分配，提升集群系统计算能力利用率。 多瑙调度器提供大规模集群下的高资源利用率、高吞吐量的作业调度能力： » 超大规模调度：最大支持 3000 节点 /38 万核超大规模集群调度。 » 高吞吐量作业：端到端吞吐量高，达到每小时 400 万 + 个作业。 » 高资源分配率：高效灵活的调度框架，资源分配率达到 90%+。 鲲鹏 BoostKit

DGX GB200 NVL72 系统构建而成， 这些系统通过 NVIDIA Quantum Inf iniBand 网络连接， 可扩展到数万个 GB200 超级芯片，可以用于处理万亿参数模型，能够保证超大规模生成式 AI 训练和推理工 作负载的持续运行。 l 预计 B200 和 GB200 系列在 2024 年第四季度和 2025 年第一季度之间陆续出货， B300 系列将于 2025 年第二季度至第三季度之间陆续出货。据

的关键命脉。同时，考虑到用户需求的多样性，现代智算中心网络拓 扑的设计必须优先考虑可扩展性、高性能、稳定可靠、自动化运维以 及未来的扩展能力。 图 4-2 网络拓扑智能生成示意图 传统网络设计方法难以高效应对超大规模集群的复杂性和个性 化需求，而大模型强大的模式识别、知识推理和生成能力提供了新的 可能。其核心需求是利用大模型学习海量网络设计案例、性能数据及 用户需求，自动生成满足特定性能指标（如低延迟、高带宽、高可靠

频需求），最终形成跨域资源的最优分配策略。 5.1.3 能效瓶颈，电力侧的关键制约 算电协同面临的第三大核心技术挑战是能效瓶颈问题，这主要体 现在集中式与分布式计算场景的双重制约。在集中式高密度计算场景 （如超大规模数据中心）中，随着算力密度的持续提升，散热与供电 效率逐渐逼近物理极限——传统风冷散热已难以满足高性能计算芯 片的热管理需求，而电力转换与传输损耗在总能耗中的占比显著增加， 亟需通过液冷技术