金融业AI大模型智算网络研究报告成为AI算力集群的线性度和稳定性的关键,也面临新的挑战: 一是高性能传输挑战。大模型需要大量的数据进行训练和推 理,千亿模型单次计算迭代内,梯度同步需要的通信量达百GB 量级;MoE稀疏模型下张量并行的卡间互联流量带宽需求达到数 百至上千GBps量级。服务器节点间互联网络会承载数据并行和流 水线并行流量,千亿参数模型如GPT-3并行训练节点间带宽需求 达到13.5GB(108Gbps),如表2所示。万亿模型参数面带宽需求 型参数面带宽需求 增加到200Gbps至400Gbps。AI智算网络需提供更高的带宽来支持 数据快速传输,并且支持算力的横向扩展能力。 表2 千亿稠密模型GPT3千卡PTD训练通信量 注:PDT,P 指 Pipeline 并行,D 指 Date 数据并行,T 指 Tensor 并行 参数:模型 GPT3-175B,h=12288,S=2048,Ndecoder=96,B=1536,D=16,T=8,P=8 也带来了模型参数量增大,数据规模增大,集群算力急剧提升的 需求。网络性能 10%的提升,能够撬动整体性能、投入产出和能 耗效能数倍的提升,因此高算力集群的构建,依赖高性能互联的 网络。 一是使用高带宽网络设备释放算力性能。千亿参数大模型训 练过程中通信占比最大达 50%,且模型越大、通信占比越高。以 GPT3.5为例,当接入带宽提升16倍,通信占比从35%降低至3.7%, All-Reduce 训练周期缩短 14 倍。由此可见网络带宽是构建高集10 积分 | 33 页 | 1.70 MB | 1 天前3
【完整报告】2025中国具身智能产业星图准、地方定赛道、园区做承载、基金做杠杆、场景做牵引”的系统推 进模式。区域竞争不再是简单的“给钱、给地”,而是围绕“技术闭环 —量产能力—数据回流—商业闭环”展开的全链条竞速,未来 2-3 年 将进入“万台级量产、千亿级集群、场景全面渗透”的关键窗口期。 (一)总体趋势:从“单点突破”到“系统布局” 在国家战略层面,2025 年国务院《政府工作报告》首次将“具身 智能”与“智能机器人”并列纳入未来产业培育清单,标志着其从部委 ”垂 直整合,北京侧重原始创新,广东注重场景牵引,四川、吉林聚焦医 24 工交叉,山东、天津发力“AI+制造”改造;另一方面,“市—区—园” 三级递进,深圳、广州、杭州、成都、苏州等城市将“千亿级产业集 群”拆分为“特色园—孵化器—中试线—场景集”,并配套 100-150 亿元 量级的产业基金。 技术供给层面,部委文件中首次出现“具身大小脑模型”“全身运 动控制”等术语,政策关注点从“大语言模型”延伸到“多模态感知—运 标准、检测底座,实现“全生命周期”治理。 (二)区域特点:北京重创新、长三角强生态、珠三角促出海 京津冀以原始创新为核心定位,成为具身智能产业重要策源地。 北京突出“国家战略科技力量”,计划 2027 年形成“千亿级”产值,致 力于打造“全球具身智能开源高地”;天津依托老工业基地优势,“AI+ 25 制造”特色显著,布局 37 个工厂级场景,并提供 500 万元改造补贴, 目标成为“AI 改造老工业城市样板”。长三角凭借完整产业链与活跃20 积分 | 42 页 | 2.41 MB | 1 天前3
Lindorm一站式车联网数据平台解决方案(14页 PPT)A R A 云 栖 大 会 车联网数据特点 100+ 项指标 数千项指标 汽车保有量 百万级 / 千万 级 数据采集频度 100ms/1s/10s 性能 数千列大宽表实时写入 数千亿数据实时检索 国标 GB_T 32960 企标 智能业务 多元化 存储、检索、计 算、 AI 成本 PB+ 规模数据 动态列 车辆增加信号 第三方机构观点 / 数据,仅供参考,不代表本公司观点10 积分 | 14 页 | 1.62 MB | 1 天前3
中科海光:2025年深算智能:海光DCU行业实战手册作”等优势,倾力打造“DCU-DTK-DAS-DAP”全栈软硬件技术生态体系,支撑各类大模型适配优化与应用创新,助力千行百业智能 化转型。 全尺寸、多形态、多场景适配各种大模型,从十亿推理到千亿训练灵活扩展 1.5B 7B/8B 14B 32B 70B 671B 小并发推理、单一场景推理 个人智能助手 多任务处理 部门/团队应用 复杂推理,小模型微调 中小企业服务 全栈国产安全架构:集成国产冷板液冷模块、独立计算网络及 集群管理系统,内嵌国密算法与芯片级安全机制。 多元算力融合平台:海光DCU提供FP16/FP32/FP64全精度算 力,同步支持科学计算与千亿级模型训练。 行业级液冷创新:自主研发液冷散热系统,PUE降至1.15以下, 成为油气行业首个绿色低碳AI基础设施。 场景深度适配能力:针对地震处理、化工研发等专业需求优化 算力调度策略,实现业务-算力精准匹配。10 积分 | 25 页 | 13.99 MB | 20 天前3
集团人力资源数字化转型顶层设计方案企业类型:民营上市企业( ** ) 总部地址: XX 市 ** 区 上级单位: XX** 公司有限公司 营业收入: 64.4 亿( ** 年) 员工数量: 2** 人 企业愿景:打造千亿 ** 进军世界 500 强 主营业务:绿色农药及其上下游一体的“ **” 中间体的科研、制 造及销售,产品范围涵盖除草剂、杀虫剂、杀菌剂及中间体 业务布局:现有 XX 、 ** 个生产基地及10 积分 | 98 页 | 10.65 MB | 6 月前3
2024全球计算产业应用案例汇编(GMVPS)聚焦研究长距无损智算网络技术。 本方案依托中国电信的全光运力网,基于800G C+L技术、异构网络集合通信优化技术、全局负载 均衡技术等,为1024卡规模的分布式集群提供大容量带宽,实现120公里千亿参数大模型分布式训练, 性能达到集中训练的95%以上,证实了分布式无损智算网技术方向的可行性,为智算互联构建坚实技术 底座。 案例亮点 case HigHligHts 1 本方案可实现跨 前分布式智算中心无损网络解决方案在真实业务场景下 的效果,并探索分布式智算集群对大模型训练性能影响的关键因素,组网拓扑如图4所示。在前期百卡、 百公里拉远验证基础上,三阶段在京津冀智算机房开展了千亿参数、千卡规模120km两点拉远验证,组 网拓扑如图5所示,本阶段探索长距链路带宽收敛情况下模型训练的性能,目标是推动无损智算互联网络 的技术进一步突破。系列试验均验证了在不同拓扑中分布式智算中心无损网络方案的有效性和稳定性。10 积分 | 141 页 | 8.88 MB | 6 月前3
国家互联网信息办公室:国家信息化发展报告(2024年)络游戏展现中华文明深厚底蕴,《黑神话:悟空》等优秀游 戏作品彰显中华传统文化的巨大魅力,2024年,我国自主研 发游戏海外市场实际销售收入达到185.57亿美元,同比增长 13.39%,其规模已连续5年超千亿元人民币。网络新媒体拓 展国际传播渠道,小红书等网络新媒体平台吸引国际用户体 43 验,推动文化交流。 三、电子政务赋能减负增效 数智化技术有效赋能政务服务和治理,推动政务服务更 加利企0 积分 | 79 页 | 2.50 MB | 20 天前3
某大型集团数字化转型采购供应链及财务管控业务流程蓝图规划方案(173页 PPT)提供高效、优质、低成本 服务,实施监控 整合并实施解决方案 客户需求 业务需求 案例总结: • 先全面统一业务流程、统一实施 ERP 系统,再统一建设财务共享中心,支 撑集团千亿发展目标,历时 4 年, 其 中财务共享建设历时 1 年 8 个月。 • 对后续并购单位,实行管理、系统的 统一先行,再纳入财务共享范围 财务共享项目人员投入: •20 积分 | 173 页 | 6.23 MB | 13 天前3
大型集团数字化转型数字化采购供应链业财一体化规划方案(172页 PPT)提供高效、优质、低成本 服务,实施监控 整合并实施解决方案 客户需求 业务需求 案例总结: • 先全面统一业务流程、统一实施 ERP 系统,再统一建设财务共享中心,支 撑集团千亿发展目标,历时 4 年, 其 中财务共享建设历时 1 年 8 个月。 • 对后续并购单位,实行管理、系统的 统一先行,再纳入财务共享范围 财务共享项目人员投入: •20 积分 | 172 页 | 6.26 MB | 13 天前3
共 9 条
- 1
