新型智算中心改造系列报告一： 网络成大模型训练瓶颈 ，节点内外多方案并存 证券研究报告 | 2024 年 5 月 5 日 行业研究 · 行业专题 计算机 · 人工智能 投资评级：超配（维持评级） 请务必阅读正文之后的免责声明及其项下所有内容 • A I 大模型训练和推理拉动智能算力需求快速增长。 a ）模型迭代和数量增长拉动 A I 算力需求增长：从单个模型来看，模型能力持续提升依赖于

浮现：大模型正沿着 “规模定律”不断演进，从预训练扩展到覆盖预训练、后训练、逻辑推理的全流程，其参数与集群 规模实现“双万” 跨越，行业模型落地需求专业化。 传统的服务器集群架构在这场变革中瓶颈愈发明显。千亿级模型一次梯度同步产生的 TB 级数据 让传统以太网带宽难以承受；同时，伴随算力规模扩大，万级处理器带来的故障常态化，对自动化 运维与 RAS 能力提出了更高要求。在这样的背景下， 高效率、高可靠的 单一逻辑实体。它标志着一个全新时代的开启——智算基础设施正从松散组合的算力堆叠阶段，迈 入软硬协同、全局优化的超节点阶段，旨在有效破解超大规模 AI 训练与推理中所面临的扩展性瓶颈、 效率损耗与能耗墙难题，为 AI 的持续创新提供坚实、高效、绿色的算力基座。 为系统分析超节点技术的发展逻辑、技术创新、产业价值以及未来趋势，我院与华为及相关单位 共同开展研究，编制《超节点发展报告》。报告以 注意力模型等，已 成为可扩展模型的核心架构方向。在复杂的混合并行策略下，随着并行规模持续扩大，系统节点间 通信带宽与可用显存容量成为制约大模型可扩展性的瓶颈，亟需计算架构创新以满足未来更大规模 模型训练的需求。超节点架构突破传统互联瓶颈与共享协议限制，不断突破系统性能上限，成为多 样化算力集群技术未来演进的必然趋势。本发展报告系统梳理了超节点技术架构的国内外演进路径 与生态发展格局，清晰

基于多种分布式云服务开发应用，消灭全链 路瓶颈，构建全栈分布式业务应用。 采用分布式负载均衡消灭用户访问瓶颈。 采用分布式应用服务器消灭应用扩展瓶颈。 采用分布式数据库消灭数据库瓶颈。 采用开放式消息服务消灭消息处理瓶颈。 采用分布式缓存消除内存缓存扩展瓶颈。 采用分布式对象存储消除静态静态资源存储 访问瓶颈。 采用分布式数据复制消除数据同步瓶颈。 采用分布式文件系统消除磁盘性能瓶颈。 技术架构：智能环卫基于分布式架构的设计

基于多种分布式云服务开发应用，消灭全链 路瓶颈，构建全栈分布式业务应用。 采用分布式负载均衡消灭用户访问瓶颈。 采用分布式应用服务器消灭应用扩展瓶颈。 采用分布式数据库消灭数据库瓶颈。 采用开放式消息服务消灭消息处理瓶颈。 采用分布式缓存消除内存缓存扩展瓶颈。 采用分布式对象存储消除静态静态资源存储 访问瓶颈。 采用分布式数据复制消除数据同步瓶颈。 采用分布式文件系统消除磁盘性能瓶颈。 技术架构：智能环卫基于分布式架构的设计

这一浪潮中，智算中心不仅是国家科技战略的核心支撑，更是产业智 能化升级的关键基础设施。 随着 AI 模型参数量呈指数级增长，尤其是在大规模分布式并行训 练场景下，网络性能已成为制约智算中心整体效率的关键瓶颈。当前 普遍部署的纯电交换网络在互联规模、带宽密度、端到端时延与能效 比等方面逐渐逼近物理与经济的上限：算力芯片的通信需求远超传统 网络承载能力，高功耗、高成本和复杂布线问题愈发突出。 在此 .........8 1.3 光电协同交换网络的兴起........................................................11 1.3.1 电交换的技术瓶颈与发展困境..................................... 12 1.3.2 光交换的性能优势与发展趋势................................. 的全互联需求。 图 1-1 智算中心网络与网络协议栈 无论采用机内互联还是采用机外互联，都要采用电交换芯片来做 网络流量交换。然而，随着模型规模和节点数的增加，电交换面临带 宽、延迟和能效的瓶颈。 1.3 光电协同交换网络的兴起 在交换技术方面，电交换技术具有成熟性、协议兼容性和灵活的 控制能力，基于以太网（如 RoCEv2、InfiniBand）传输协议，支持复 杂网络策略，在智

心能力建设、强化人机协同保障体系，推动技术全流程工程化落地。 聚焦垂直领域差异化需求，建立行业适配路径，为破解发展瓶颈提 供标准化方法论，赋能产业智能化升级。 本报告分为五个章节，第一章从战略布局、市场规模、技术发 展等方面梳理数字化浪潮下软件工程智能化的变革背景；第二章聚 焦软件工程智能化初期实践，系统诊断当前面临的关键瓶颈；第三 章针对上述痛点，提出智能化标准体系总体架构；第四章围绕关键 领域展开深度分析； 数字经济规模持续扩张，智能软件需求持续攀升 ...............4 （三） 技术创新驱动持续深化，软件工程智能纵深发展 ...............6 二、 行业痛点：剖析软件工程发展瓶颈，明确破局关键 .................. 7 （一） 技术侧痛点：AI 能力的本质局限 ............................ 7 （二） 工程侧痛点：人机协作的实践困境 软件工程智能化标准体系建设指南（2025 年） 7 代码集成平台等基础技术升级。产业场景正成为核心试验场与创新源， 驱动智能化开发从单点能力增强向系统工程能力跃迁。 二、行业痛点：剖析软件工程发展瓶颈，明确破局关键 当前，软件工程领域正处于传统开发模式与 AI 技术融合的探索 期，这一转型过程在技术侧、工程侧和行业侧均暴露出诸多痛点。 （一）技术侧痛点：AI 能力的本质局限 1.早期工具针对特定痛点开发，缺乏顶层设计导致工具

输能力差异性造成模型计算量处理不同步、集 合通信数据传输有堵点，“快等慢”造成部分资源浪费。针对大模型推理过程，由于预填充 和解码阶段对算力和显存的需求量不同，传统大模型推理过程算力显存阶段互为瓶颈，造成 低水平资源利用率，需要解决异构算力协同调度问题使其匹配到最优计算任务。 8 第二章 算力协同体系架构 为了打破异构算力生态壁垒，实现不同类型智算异构算力高效协同工作，南向屏蔽底层 ASIC、GPGPU 化等： （1）集合通信原语优化：为通信原语设计支持异构环境的专用算法，其核心能力包括 异构通信数据流编排、拓扑感知路由的最优路径选择及计算通信重叠等，最大化并行度、均 衡负载并规避单一设备瓶颈，显著提升跨设备集合通信操作效率。 （2）异构算力互联 ：打破不同厂商 GPU 生态的封闭壁垒，通过统一通信抽象层或通 用适配器调度框架，定义标准化的设备发现、内存管理、任务提交接口，通过动态加载厂商 底层硬件能力，消除性能瓶颈。 13 3.2.2 智算网络互联优化 面向异构算力场景下智算网络互联的性能瓶颈与兼容性限制问题，因业务流量特征不同 引发的链路负载不均、带宽效率低下和收敛速度慢等因素制约算力协同效率，深度依赖特定 厂商网卡使其网络设备难以无缝集成、异构芯片集合通信库接口可编程性缺失阻碍协议栈优 化或流量调度技术的集成部署。智算网络互联优化突破性能瓶颈并适配多元异构环境，保障

设施，对于资金有限的低空经济 企业来说，这是一个重大挑战。 基础设施建设成本 技术的快速迭代要求低空经济领 域的企业不断学习和适应新技术， 以保持竞争力。 技术更新迭代速度 专业人才的缺乏是数字化转型的 瓶颈，企业需要投入资源培养和 吸引相关技术人才。 人才培养与引进 低空经济的新机遇 无人机物流 无人机配送服务 在偏远地区或交通不便的区域，无人机配送服务可以实现快 速、低成本的货物运输。 全事故，对人员和财产安全构成威胁。 技 术 故 障 引 发 的 安 全 事 故 低空经济的快速发展带来了空域管理的复杂性，如何有效 监管以防止空中碰撞和非法侵入成为一大挑战。 空 域 安 全 监 管 挑 战 技术与基础设施瓶颈 随着无人机应用增多，监管技术尚未成熟， 导致空域管理复杂，影响低空经济的有序 发展。 无人机监管技术 01 低空经济中无人机等飞行器需要频繁充电 和维护，但相关基础设施建设滞后，限制 低空经济发展的挑战与对策 低空经济发展的挑战与对策 低空飞行涉及到航空安全、隐私保护等问题，需要加强法规建设和监管力度。 1. 安全问题 低空经济发展仍面临一些技术瓶颈，如航空器的续航能力、飞行控制系统等，需要加大研发投 入，突破技术难题。 2. 技术瓶颈 低空经济的发展需要大量专业人才，需要加强教育培养和引进。 3. 人才培养 04 结论 结论 总之，数字经济时代低空经济

二是系统性解构了“军 —地—民—企”四方协同治 理的内在逻辑与核心瓶颈，并 进一步具象化为以“权责清 单+流程泳道图”为基础，最 终实现“一窗受理、一网通 办、统一留痕、快速裁决”的 高效协同机制，旨在有效降低 制度性交易成本。 战略路线图与政 策工具箱构建 内在逻辑与核心 瓶颈解构 投入产出模型与 实施策略剖析 1 第一章 网络与数据安全：低空智联网面临的新型安全挑战 ......................................................... 18 第四章 现状总结：当前面临的核心瓶颈与挑战 ..................................................................... 20 4.1 法规之困：从“无法可依”到“规则难通” 极大地优化了生产要素的配置效率。这不仅意味着物理空间的拓展，更代表着一种全新 的资源观，即向“天”要效益、要发展，从而有望突破超大城市因地面交通拥堵、物理 边界扩张受限所带来的资源环境承载力瓶颈，为经济增长开辟新维度。 1.1 低空经济的战略价值与新质生产力 内涵 3 ⚫ 产业深度转型升级：低空经济的产业链条极长，横跨一、二、三产业，呈现出高度的融 合性。上游包

款服装命中率。在 用户体验领域，流程智能化则体现为个性化服务与快速响应。比如，企业客户服务部门通过 AI 流 程创新，可以提高客户投诉响应速度，从而拉升 NPS。 当技术迭代、降本压力、创新瓶颈三重叠加，流程智能化已不再是“锦上添花”，而是决定企业生 死存亡的“氧气级能力”。那些率先将流程智能化植入组织基因的企业，正在构筑起“成本-效率- 创新”的复合护城河。 实践方法论 1，需求诊断与场景锚定 流程智能化的实施必须始于精准的业务需求识别与场景选择。首先，企业需通过对于内部流程的抽 象挖掘，映射绘制出端到端业务流程图。其次，再结合历史数据挖掘关键瓶颈。比如，制造企业可 以通过绘制端到端采购流程，评估各个流程节点耗时在全流程中占比，从而找到关键场景。 具体的场景选择，企业应遵循“痛点优先、价值可测”原则。比如，场景价值度高低的评判应当交 体验差等问题逐渐成为制约管理效率与业务创新的瓶颈。如何通过数字化实现流程管理 的智能化、敏捷化与全局化，成为中集集团新挑战。中集集团通过与蓝凌深度合作，基 于蓝凌 BPM 打造一体化流程支撑平台，以加速流程建设为核心目的，开启了流程管理 变革。 01 传统 BPM 系统“四大桎梏” 中集集团原 BPM 系统的局限性集中体现在四个维度：系统架构恐龙化困境、安全与合 规风险、流程扩展瓶颈以及用户体验代际断层。