金融业AI大模型智算网络研究报告成为AI算力集群的线性度和稳定性的关键,也面临新的挑战: 一是高性能传输挑战。大模型需要大量的数据进行训练和推 理,千亿模型单次计算迭代内,梯度同步需要的通信量达百GB 量级;MoE稀疏模型下张量并行的卡间互联流量带宽需求达到数 百至上千GBps量级。服务器节点间互联网络会承载数据并行和流 水线并行流量,千亿参数模型如GPT-3并行训练节点间带宽需求 达到13.5GB(108Gbps),如表2所示。万亿模型参数面带宽需求 型参数面带宽需求 增加到200Gbps至400Gbps。AI智算网络需提供更高的带宽来支持 数据快速传输,并且支持算力的横向扩展能力。 表2 千亿稠密模型GPT3千卡PTD训练通信量 注:PDT,P 指 Pipeline 并行,D 指 Date 数据并行,T 指 Tensor 并行 参数:模型 GPT3-175B,h=12288,S=2048,Ndecoder=96,B=1536,D=16,T=8,P=8 也带来了模型参数量增大,数据规模增大,集群算力急剧提升的 需求。网络性能 10%的提升,能够撬动整体性能、投入产出和能 耗效能数倍的提升,因此高算力集群的构建,依赖高性能互联的 网络。 一是使用高带宽网络设备释放算力性能。千亿参数大模型训 练过程中通信占比最大达 50%,且模型越大、通信占比越高。以 GPT3.5为例,当接入带宽提升16倍,通信占比从35%降低至3.7%, All-Reduce 训练周期缩短 14 倍。由此可见网络带宽是构建高集10 积分 | 33 页 | 1.70 MB | 1 天前3
产业园区招商模式动 力 , 多个千亿元产业园区呼之欲出: 重庆:规划了国内最大笔记本电脑基地和国内最大离岸数据开发和处理中心 两大基地,产值目标分别定为 6500 亿元和 1500 亿元; 湖南:“十二五”期间省内新兴产业力争培育 6 个销售收入过千亿亿元的园 区。 老东北工业基地——黑龙江在“十二五”期间规划建立哈大齐工业走廊建设区 北京:仅亦庄就有移动互联产业园、数字电视产业园等多个千亿产业园项目 ……20 积分 | 58 页 | 15.12 MB | 4 月前3
2024年汽车AI大模型TOP10分析报告(59页 PPT)0 等最新技术 全球首个百亿中英对话生 成模型 Plato-XL 2019.07 全球首个大规模隐变 量对话模型 Plato 文心一言大模型 4.0 2021.12 全球首个知识增强千亿大模型 鹏程 · 百度 · 文心 2024.06.28 文心一言大模型 4.0 Turbo 2021.12 全球最大中文跨模态生成 模型 Ernie-viLG 2021.07 全球首个知识增强百亿 包含不同参数规格的模型, 以 适配不同的业务场景。十亿级参数的 Pangu E 系列可支撑手机、 PC 等端侧的智能应用; 百 亿级参数的 Pangu P 系列 ,适用于低时延、 高 效率的推理场景;千亿级参数的 Pangu U 系 列 适用于处理复杂任务;万亿级参数的 Pangu S 系列超级大模型能够帮助企业处理更为复杂的 复杂逻辑推理是大模型成为行业助手的关键。 盘古大模型 5.0 将思维链技术与策略搜索深 合作落地(工程师仅需调用华为云提供的 API 就可以用场景理解大模型来完成给视 频 数据分类的工作) 。 但是大模型的训练成本高昂。 GPT-3 训练一次的成本可能 在 12 00 万人民币。 而华为方面 ,在训练千亿参数的盘古大模型时 ,也调用了超过 2000 块 的昇腾 910 ,进行了超过 2 个月的训练 , 成本极高。 一方面选择小样本 训练 , 通过自 监督的方法 , 以更少的标注数据来做训练10 积分 | 59 页 | 27.94 MB | 1 天前3
Turing交通专家大模型解决方案2g 69.8g 2848g 377g 1232g 大模型参数超越人类神经元量级 , 具备智力基础 智力基础加上专业学习 -> 解决专业问题 大模型参数量已超过千亿 , 具备人类相当的智力基础和解决专业问题的可行性。 交通感知 千亿神经元 3 亿神经元 17 亿神经元 56 亿神经元 91 亿神经元 163 亿神经元 脑容量和神经元数量 哺乳动物大脑皮层质量和神经元数量10 积分 | 13 页 | 1.53 MB | 6 月前3
【完整报告】2025中国具身智能产业星图准、地方定赛道、园区做承载、基金做杠杆、场景做牵引”的系统推 进模式。区域竞争不再是简单的“给钱、给地”,而是围绕“技术闭环 —量产能力—数据回流—商业闭环”展开的全链条竞速,未来 2-3 年 将进入“万台级量产、千亿级集群、场景全面渗透”的关键窗口期。 (一)总体趋势:从“单点突破”到“系统布局” 在国家战略层面,2025 年国务院《政府工作报告》首次将“具身 智能”与“智能机器人”并列纳入未来产业培育清单,标志着其从部委 ”垂 直整合,北京侧重原始创新,广东注重场景牵引,四川、吉林聚焦医 24 工交叉,山东、天津发力“AI+制造”改造;另一方面,“市—区—园” 三级递进,深圳、广州、杭州、成都、苏州等城市将“千亿级产业集 群”拆分为“特色园—孵化器—中试线—场景集”,并配套 100-150 亿元 量级的产业基金。 技术供给层面,部委文件中首次出现“具身大小脑模型”“全身运 动控制”等术语,政策关注点从“大语言模型”延伸到“多模态感知—运 标准、检测底座,实现“全生命周期”治理。 (二)区域特点:北京重创新、长三角强生态、珠三角促出海 京津冀以原始创新为核心定位,成为具身智能产业重要策源地。 北京突出“国家战略科技力量”,计划 2027 年形成“千亿级”产值,致 力于打造“全球具身智能开源高地”;天津依托老工业基地优势,“AI+ 25 制造”特色显著,布局 37 个工厂级场景,并提供 500 万元改造补贴, 目标成为“AI 改造老工业城市样板”。长三角凭借完整产业链与活跃20 积分 | 42 页 | 2.41 MB | 1 天前3
2025中国适老化智能科技行业洞察报告紧急联系手环/手表 陪伴机器人 数字疗法产品 智能相框 老年人专用社 交软件 认知障碍筛查与训练软件/游戏 适老化改造 科技赋能 养老产业十二大类 适老化智能科技产品 x x 市场规模:千亿蓝海,蓄势待发 Ø 中国适老化智能科技产品市场规模在过去几年中实现了高速增长,根据亿欧数据,2025年市场规模将 达到5554亿元,并有望在2030年接近1万亿规模,成为银发经济中增长最快的赛道之一。 外防控”,形成预防-干 预-康复的闭环。 医疗与消费电子产业边界加速融合 x x 建议:构建协同发展生态,激活银发经济新动能 Ø 当前中国适老化智能科技行业在政策驱动与技术革新下已形成千亿级市场规模,但仍面临标准缺失、 支付瓶颈及数字鸿沟等核心挑战。需通过政策引导、企业创新与消费者教育三方协同,推动行业从单 一硬件销售向“产品+服务+生态”转型。 资料来源:三个皮匠报告网研究绘制10 积分 | 25 页 | 9.33 MB | 1 天前3
智能物流仓储:智算驱动下的物流革命,仓储系统进入跃迁期 头豹词条报告系列亚洲乃至全球领先的智能物流中 心。该中心90%以上的操作已实现自动化,采用的自动化输送系统分拣处理能力可达16,000件/小时,分拣准确率高达99.99%,智能大脑系统可 在1分钟内为机器人计算千亿条路线,这些路线如同错综复杂的神经网络,将仓库中的每个角度紧密相连,确保每个商品在最短时间内被送到消 费者手中。 政策红利加速行业智能化转型。 国家政策持续支持智慧物流发展,为行业提供制度保障 营收规模 13.4亿元 71.4 同比增长(%) 21.8 毛利率(%) 总市值 - 营收规模 3.5亿元 25.6 同比增长(%) 32.1 毛利率(%) 总市值 2.5千亿 营收规模 777.6亿 32.6 同比增长(%) 毛利率(%) - 总市值 - 营收规模 612.8亿元 2.6 同比增长(%) 44.9 毛利率(%) 企业分析 125 积分 | 15 页 | 5.39 MB | 19 天前3
Lindorm一站式车联网数据平台解决方案(14页 PPT)A R A 云 栖 大 会 车联网数据特点 100+ 项指标 数千项指标 汽车保有量 百万级 / 千万 级 数据采集频度 100ms/1s/10s 性能 数千列大宽表实时写入 数千亿数据实时检索 国标 GB_T 32960 企标 智能业务 多元化 存储、检索、计 算、 AI 成本 PB+ 规模数据 动态列 车辆增加信号 第三方机构观点 / 数据,仅供参考,不代表本公司观点10 积分 | 14 页 | 1.62 MB | 1 天前3
筑牢飞行安全根基,低空经济基建先行(41页PPT)的发展。地方层 面, 截至 1 月,全国已经有超过 50 个省市地区发布低空经济相关的行动方案或者实施方案, 多地明确了低空经济产业规模目标以 及关 于基础设施的阶段性建设目标, 目标千亿级产业规模的省市地区包括:广东省、 江西省、 湖南省、 湖北省、 山东省、 北京市、 广州市、 武汉市等。产业层面, 我们统计 2024 年至今低空经济领域达亿级的公开招投标项目(不完全统计) 预算金额合计已超过 日《关于促进政府投资基金高质量发展的指导意见》强调,基 金 定位要加快培育发展新质生产力,我们认为将利于低空经济的发展 。产业基金方面, 据 钛媒体不完全统计,全国已有 20 个省市成立低空经济产业基金,总规模超千亿元。 财政支持:专项债、政府基金有望为低空经济发展增添活力 低空经济等新兴产业基础设施纳入专 项债券用作项目资本金范围 强调政府投资基金定位:加快培育发 展新质生产力 低空经济产业基金 地方政策层面来看 , 截至 2025 年 1 月 ,据我们不完全统计, 已经有超过 50 个省市地区发布低空经济相关的行动方案或 者实施方案, 多地明确了低空经济产业规模目标: 1 ) 目标千亿级产业规模的省市地区包括: 广东省 、 江 西 省、 湖南省、 湖北省、 山东省、 北京市、 广州市、 武 汉市。 2 ) 目标 500 亿及以上产业规模的省市地区包括:黑龙江省、 安徽省、贵州省、20 积分 | 40 页 | 2.76 MB | 4 月前3
中科海光:2025年深算智能:海光DCU行业实战手册作”等优势,倾力打造“DCU-DTK-DAS-DAP”全栈软硬件技术生态体系,支撑各类大模型适配优化与应用创新,助力千行百业智能 化转型。 全尺寸、多形态、多场景适配各种大模型,从十亿推理到千亿训练灵活扩展 1.5B 7B/8B 14B 32B 70B 671B 小并发推理、单一场景推理 个人智能助手 多任务处理 部门/团队应用 复杂推理,小模型微调 中小企业服务 全栈国产安全架构:集成国产冷板液冷模块、独立计算网络及 集群管理系统,内嵌国密算法与芯片级安全机制。 多元算力融合平台:海光DCU提供FP16/FP32/FP64全精度算 力,同步支持科学计算与千亿级模型训练。 行业级液冷创新:自主研发液冷散热系统,PUE降至1.15以下, 成为油气行业首个绿色低碳AI基础设施。 场景深度适配能力:针对地震处理、化工研发等专业需求优化 算力调度策略,实现业务-算力精准匹配。10 积分 | 25 页 | 13.99 MB | 19 天前3
共 62 条
- 1
- 2
- 3
- 4
- 5
- 6
- 7
