模型规模 典型硬件 GPU 数量 训练成本（美元） 1 亿~10 亿 V100/A100（数十卡） <100 <10k 百亿级 A100/H100（数千卡） 1,000-5,000 1M-10M 千亿级 H100（万卡级） 5,000-10,000 10M-100M 万亿级+ H100/B100（数万卡） >20,000 100M-500M+ 大模型参数量达到万亿，迭代训练需使用数据并行、流水线并行、 了极高的要求。 下表展示了不同模型规模单次梯度同步数据量的大小。 模型规模 典型 GPU 数 量 单次梯度同步数 据量 通信敏感度 十亿参数 数十卡 10GB 至 50GB 中等 千亿参数 数百至千卡 300GB 至 800GB 高 万亿参数 数千至万卡 大于 1TB 极高 电交换机的交换性能依赖其内部交换芯片，交换芯片的性能由其 交换容量(switch capacity)衡量。交换芯片的交换容量 了整体性能的提升。 网络延迟瓶颈 大模型训练需要多机多卡完成该轮所有集合通信操作后才可进行 下一轮迭代，这种同步性特征要求智算网络必须提供极低的长尾时延， 避免出现木桶效应[8]。根据理论推算，对于千亿参数规模的大模型训 练来说，动态时延由 10us 增加至 1000us，GPU 有效计算时间占比将 降低 10%左右。同样，大模型推理对网络时延也有着更高的要求，以 确保能够为用户提供优质的推理服务。

化。FlagScale 已支持包括智源自研 Aquila 系列与 Emu3 在内的 10 余种大模型的端到端训练，涵盖语言、多模态、具身智能等 多个领域，支持稠密与稀疏模型训练，参数规模从亿级至千亿级不等。 （2）在集合通信层：FlagScale 已兼容包括壁仞、天数智芯、沐曦、昆仑芯、寒武纪、 摩尔线程、海光以及华为昇腾等在内的多种国产 AI 芯片，同时支持 CPU 中转和 RDMA 直连 策略）等技术，在流水调度层面取长 补短、深度调优，设计异构并行自动寻优机制实现多种拆分策略的最佳组合。 基于上述方案，壁仞科技联合上海人工智能实验室开展四种国产 GPU 千卡规模混合训 练，混训效率达 98.5%，实现千亿参数大模型长时间高效稳定训练，实现了国产芯片+国产 异构通信库+国产训练框架+国产大模型的深度融合。下一步将参照工信部“算力互联互通 行动计划”算力业务互通创新行动要求，进一步攻关万卡规模异构混训难题，逐步实现万亿、

背景与需求 近年来，人工智能（AI）技术取得了突破性进展，特别是以 ChatGPT、Deepseek 为代表的大语言模型（LLM）的兴起，标志着 AI 进入了一个全新的发展阶段。大 模型通常拥有数千亿甚至万亿的参数，中小模型通常也有十亿参数以上，需要海 量的算力进行训练和推理。为满足庞大的算力需求，智算中心作为 AI 发展的新 型基础设施底座，正加速在全球范围内建设和部署。 图 1-1 传统数据中心与新型智算中心流量模型对比

item_ id=8593536397673564232&track_id=f767296e-8aad-4adc-a960-c0bf2ceee5e. [9] 千龙网 . 西北电网新能源年外送电量首超千亿千瓦时 [EB/OL]（2025-01-03）[2025-07-17]. https://baijiahao.baidu.com/s?id=1820206285227720618&wfr=spider&for=pc

端侧大模型和云侧大模型协同工作，能够发挥 LLM 大模型的最大潜力，并且从成本、能耗、时延、 隐私安全、个性化等多方面为用户提供极致体验。 云端的超级大脑可以解决复杂问题，提升回答的质量，一般以参数量在千亿级别的大模型 部署，推理的算力成本较高。端侧的灵活小脑可以实现低延时低成本高隐私安全的反馈，并且 基于用户数据可以提供个性化服务。部署的模型参数量一般十亿到百亿。端云协同可以最大化 发挥“端侧

行速率提升到万兆，上行速率提升到千兆，物联规模从百亿提升至千亿连接。据悉，载波聚合技术作为一种通过合并多个 载波频段来增加网络带宽的先进技术，在 5G-A 中得到了进一步的发展和应用。 中国 IMT-2020（5G）推进组官方给出了 5G-A 六大应用场景，分别是沉浸实时、智能上行、天地一体、工业互联、 千亿物联、通感一体。其中最具有代表性的物联网应用场景即“千亿物联”，涉及技术既包含目前运营商最大规模开通并积

后通过少量有标签数据的微调来适应特定任务。这种方法极大地降低了对大量人工标注数据的依 赖，同时也加速了模型的迭代更新过程。 随着时间的推移，模型的规模得到了快速的膨胀，参数量从最初的数亿增长至如今的数千亿，从而 人工智能的发展迈入了大语言模型时代。这些大语言模型不仅可以用于经典的 NLP 任务，还在多 轮对话、文案生成、编程辅助、多模态交互等新兴应用场景中展现出巨大的潜力。越来越多的领域 如医疗、媒 大模型应用技术分析 2.4.2.夸克健康助手 夸克 健康 助手来 源 于 阿里巴巴 智能 信息 事 业 群 旗 下的 夸克 App ， 是基 于 全 栈 自 研 、 千亿级参 数 的夸克大模型推出的健康大模型应用。目前， 夸克已与 200 多位权威医学专家、 60 多家全国知名 公立三甲医院和 40 多家医 学机构合作， 累计服务 千万级医疗健康用户，

1. 从大语言模型走向自主智 能体 1.1 背景 近年来，以大语言模型（LLM)1-3 为代 表的人工智能 (AI) 技术快速发展，已在多个 领域展现出先前技术所不具备的涌现能力。 借助千亿级参数规模，大语言模型不仅实现 了海量知识整合和逻辑推理能力的突破，还 展现出向通用人工智能演进的巨大潜力，具 有重要的研究和应用价值。学术界与工业界 纷纷将目光聚焦于大语言模型的相关研究， 多功能家务机器人展现出强大的实用能力， 推动机器人在日常生活中的应用。 此外，具身智能在医疗、神经科学和 虚拟现实等领域实现重要突破。复旦大学 加福民团队开发脑脊接口技术，让瘫痪者 重获行走能力；复旦大学类脑院构建千亿 级神经元数字孪生平台 8，推动神经调控 应用发展；VR 技术与具身智能结合，增 强沉浸体验，推动未来人机交互革新。具 身智能正迈向产业化，赋能医疗、制造、 家用机器人及虚拟现实等多个领域。

SaaS平台，通过深度挖掘数据价值，优化运营流 程，提升企业的决策效率。 29 www.leadleo.com 400-072-5588 中国：人工智能系列 白皮书｜2025/05 能源行业ABI应用案例 千亿级多模态电力行业大模型与商业智能的深度融合，正通过重构运维 诊断、交互应答及设备巡检范式，驱动能源行业迈向实时感知、数据决 策、效率革命的智能化新纪元 ABI典型行业应用——能源行业应用案例 来源：人民网，头豹研究院

术创新，提升产品迭代速度。产业规模进一步扩大，培育产 业链上下游核心企业不少于 50 家，形成量产产品不少于 50 款，在科研教育、工业商业、个性化服务三大场景实现不少 于 100 项规模化应用，量产总规模率先突破万台，培育千亿 级产业集群。产业生态持续优化，建设不少于 2 个具身智能 特色产业集聚区，打造具身智能领域产教融合基地，营造具 有国际影响力的具身智能产业生态。 2025 年 3 月 6 日，北京市教育委员会发布《北京市推进 日，江苏省数据局等部门发而《江苏省 培育壮大数据企业行动方案（2025-2027 年）》,支持数据企 业开展人工智能前沿技术研究和关键核心技术攻关，积极参 与数据领域标准规范的研制和实施。支持各地引进培育参数 量超千亿的通用大模型，推动人工智能技术在制造、交通、 金融、医疗、教育等领域深度应用，加快培育一批融合行业 数据集的人工智能大模型。 2024 年 4 月 7 日，苏州市政府发布《苏州市具身智能机 场主体培育、开放创新平台建设、数据要素市场培育、新型 基础设施建设、产业融合赋能”。并提出“一核引领、多点 协同”的大数据电子信息产业布局。“一核”是以贵阳贵安 为核心，建设数据中心、智能终端、数据应用三个千亿级产 134 业集群。“多点”是充分整合各市州资源禀赋和产业基础， 突出差异化优势，实现市州间错位互补、协同发展。贵州充 分发挥自身地理环境优越和劳动力成本较低的优势，在数据 要素