模型规模 典型硬件 GPU 数量 训练成本（美元） 1 亿~10 亿 V100/A100（数十卡） <100 <10k 百亿级 A100/H100（数千卡） 1,000-5,000 1M-10M 千亿级 H100（万卡级） 5,000-10,000 10M-100M 万亿级+ H100/B100（数万卡） >20,000 100M-500M+ 大模型参数量达到万亿，迭代训练需使用数据并行、流水线并行、 了极高的要求。 下表展示了不同模型规模单次梯度同步数据量的大小。 模型规模 典型 GPU 数 量 单次梯度同步数 据量 通信敏感度 十亿参数 数十卡 10GB 至 50GB 中等 千亿参数 数百至千卡 300GB 至 800GB 高 万亿参数 数千至万卡 大于 1TB 极高 电交换机的交换性能依赖其内部交换芯片，交换芯片的性能由其 交换容量(switch capacity)衡量。交换芯片的交换容量 了整体性能的提升。 网络延迟瓶颈 大模型训练需要多机多卡完成该轮所有集合通信操作后才可进行 下一轮迭代，这种同步性特征要求智算网络必须提供极低的长尾时延， 避免出现木桶效应[8]。根据理论推算，对于千亿参数规模的大模型训 练来说，动态时延由 10us 增加至 1000us，GPU 有效计算时间占比将 降低 10%左右。同样，大模型推理对网络时延也有着更高的要求，以 确保能够为用户提供优质的推理服务。

设计增长地图 企业从现有 资源和能力出发所能找到业务 增 实现企业指数级的增长 增长路径中可以让业务在短期内呈现指数级 历经 12 年、 60 多家企业、千亿量级验证的增长新思维。 天 际 线 长点的总和，摆脱碎片化的增长思路。 企业估值或者企业价值的上限 爆发增长 撤 退 线 增 长 线 成长底线 本书价值 增长的线。 、谷歌、亚马逊、脸书这类公司。这类公 司 自诞生起，就具有互联网形态，就有数据累积，未来可 以依 据大数据积累往人工智能进化 数字化是爆发线的必要基因，近 30 年来，过千亿 市值的创业公司，无一例外全部都拥有数字化基 因。 表 1916—2004 年成立的市值千亿美元企业 爆发线设计策略： 数字化是爆发线的必要基因 企业完全没有数字化或者仅限于职能部门的信息化。 原生型数字化公司 再生型数字化公司 传统公司

化。FlagScale 已支持包括智源自研 Aquila 系列与 Emu3 在内的 10 余种大模型的端到端训练，涵盖语言、多模态、具身智能等 多个领域，支持稠密与稀疏模型训练，参数规模从亿级至千亿级不等。 （2）在集合通信层：FlagScale 已兼容包括壁仞、天数智芯、沐曦、昆仑芯、寒武纪、 摩尔线程、海光以及华为昇腾等在内的多种国产 AI 芯片，同时支持 CPU 中转和 RDMA 直连 策略）等技术，在流水调度层面取长 补短、深度调优，设计异构并行自动寻优机制实现多种拆分策略的最佳组合。 基于上述方案，壁仞科技联合上海人工智能实验室开展四种国产 GPU 千卡规模混合训 练，混训效率达 98.5%，实现千亿参数大模型长时间高效稳定训练，实现了国产芯片+国产 异构通信库+国产训练框架+国产大模型的深度融合。下一步将参照工信部“算力互联互通 行动计划”算力业务互通创新行动要求，进一步攻关万卡规模异构混训难题，逐步实现万亿、

10.0 10.5 11.0 10 20 30 40 50 60 70 500 1,000 1,500 2,000 2,500 平均绿色收入占比（%） 绿色收入总额（千亿） 高碳行业 其他行业 公用事业 石油石化 有色金属 建筑材料 基础化工 交通运输 钢铁 煤炭 环保 电力设备 建筑装饰 汽车 家用电器 机械设备 计算机 综合 银行 银行 通信 社会服务 非银金融 农林牧渔 房地产 国防军工 电子 轻工制造 纺织服饰 食品饮料 商贸零售 传媒 医药生物 美容护理 美容护理 绿色收入占比 绿色收入总额（千亿） 指企业在生产经营过程中，依据《绿色金融支持项目目 录（2025 年版）》、《绿色低碳转型产业指导目录（2024 年版）》、《绿色债券支持项目目录（2021 年版）》《绿 色产业指导目录（2019 色租赁等在内的多元化绿色金融产品体系。绿色债券方面， 2024 年境内共发行绿色债券 477 只，合计募资 6,814.32 亿元，其中“货币金融服务业”（即银行类发行人）发行 规模占总量近一半，约 3 千亿元 [11]。绿色理财方面，多 家银行推出 ESG 主题理财产品，截至 2024 年末，ESG 主 题理财产品存续余额 2,393 亿元，同比增长 61.69%；理 财资金投向绿色债券规模超

背景与需求 近年来，人工智能（AI）技术取得了突破性进展，特别是以 ChatGPT、Deepseek 为代表的大语言模型（LLM）的兴起，标志着 AI 进入了一个全新的发展阶段。大 模型通常拥有数千亿甚至万亿的参数，中小模型通常也有十亿参数以上，需要海 量的算力进行训练和推理。为满足庞大的算力需求，智算中心作为 AI 发展的新 型基础设施底座，正加速在全球范围内建设和部署。 图 1-1 传统数据中心与新型智算中心流量模型对比

的无 源物联网技术有着强烈需求。通过实现生产要素的全流程数字化管理，可显著提 升生产效率和资产利用率。据保守估计，该领域的市场空间将超过百亿元。 仓储行业：2025 年中国智慧仓储市场规模达到千亿级。无源物联网能够实 现海量物资的自动化出入库、高精度盘点和库位级定位，将人工操作的错误率降 至最低。即便初期仅实现 1%的渗透率，市场空间也有望达到十亿级。 电力行业：电力设备数量庞大、分布广泛，传统人工巡检效率低、成本高。

item_ id=8593536397673564232&track_id=f767296e-8aad-4adc-a960-c0bf2ceee5e. [9] 千龙网 . 西北电网新能源年外送电量首超千亿千瓦时 [EB/OL]（2025-01-03）[2025-07-17]. https://baijiahao.baidu.com/s?id=1820206285227720618&wfr=spider&for=pc

省发 布的《加快推动光芯片产业创新发展行动方案(2024—2030 年)》，全力支持光 计算、光神经网络等前沿技术研发，致力于攻克光芯片领域的关键核心技术，培 育具有国际竞争力的领军企业，打造千亿级产业集群。北京市印发《北京市算力 基础设施建设实施方案（2024—2027 年）》，提出推动硅光芯片等先进技术研 中国移动 面向新型智算的光计算白皮书（2025） 2 发，鼓励企业探索采用

制算力需求，反而因更多的用户和场景的加入，推动大模型普及与应用落地，重构产业创新范式，带动数据中心、边缘及端侧算力建设。 ➢ 大模型参数规模呈现两极分化趋势，主要表现为“超大参数模型”与“轻量化模型”的并行发展。超大参数模型（如千亿级以上）在复杂任务处理中展现出显著优势。 通过海量参数学习更复杂的特征和模式，支持定制化解决方案，满足企业和科研机构的高阶需求；轻量化模型（如参数在数十亿至百亿级）通过模型压缩、蒸馏等技 术实现高效 中国电信成立于1995年，是中国三大电信运营商之一， 也是国内领先的云网、智算服务提供商。 • 重点规划“2+3+7+N+M”智算布局，在上海与北京已 经建成单集群的万卡智算资源池，同时在全国范围内 设立多个具备千亿参数以上训练能力的公共智算中心。 • 公司有部分算力中心资源向电信旗下天翼云提供服务， 预计至24年底，对外提供服务的机柜数量达到52万架。 > 中国电信 ➢ 环京地区（含内蒙古） 3：廊坊、怀来和雄安将是未来机柜数量增长的

端侧大模型和云侧大模型协同工作，能够发挥 LLM 大模型的最大潜力，并且从成本、能耗、时延、 隐私安全、个性化等多方面为用户提供极致体验。 云端的超级大脑可以解决复杂问题，提升回答的质量，一般以参数量在千亿级别的大模型 部署，推理的算力成本较高。端侧的灵活小脑可以实现低延时低成本高隐私安全的反馈，并且 基于用户数据可以提供个性化服务。部署的模型参数量一般十亿到百亿。端云协同可以最大化 发挥“端侧