新型智算中心:网络成大模型训练瓶颈 ,节点内外多方案并存(24页 PPT)新型智算中心改造系列报告一: 网络成大模型训练瓶颈 ,节点内外多方案并存 证券研究报告 | 2024 年 5 月 5 日 行业研究 · 行业专题 计算机 · 人工智能 投资评级:超配(维持评级) 请务必阅读正文之后的免责声明及其项下所有内容 • A I 大模型训练和推理拉动智能算力需求快速增长。 a )模型迭代和数量增长拉动 A I 算力需求增长:从单个模型来看,模型能力持续提升依赖于 存储、平台、散热等维度提出新的要求。 • 网络互联:节点内外多方案并存。 1 )节点内:私有方案以英伟达 NVLink 为代表, NVLink 已经发展至第五代产品,同时支持 576 个 GPU 之间 的无缝高 速通信;开放技术方案以 OAM 和 UBB 为主, OCP 组织定义了业内通用的 A I 扣卡模组形态( OAM ) - 基板拓扑结构( UBB )设计规 范。 2 )节点间:主要方 案为 Infiniband 芯片上,数据样本和模型结构被切分到多张卡或者节点上,卡间或节点间不仅有训练数据通信,还有模型 梯度 的频繁传递,对智算中心的网络互联提出新的要求,建议关注宝信软件。 • 风险提示:宏观经济波动、下游需求不及预期、 A I 伦理风险等。 请务必阅读正文之后的免责声明及其项下所有内容 摘要 目录 01 智算 中心: 从集群走 向超级池 化 02 网络互联: 节点 内外多方案并 存30 积分 | 24 页 | 947.01 KB | 6 月前3
电力现货实战型交易策略(101页 PPT)需求侧上报 电网中的节点 输电线路与断面 线路:连接两个母线的物理线路 断面:两个节点之间所有线路连接的集合 母线与节点 母线:发电机组输出通过主变升压连接母线,物理概念 ※ 节点:市场概念,代表一组母线 ( 忽略这些母线之间的堵 塞 ) 母 线 ~ 电源 负荷 母线 ~ 电源 负荷 节点 母线 母线 断面 输电线路 节点 母线 ~ 整个区域网 节点 节点 节点 节点 节点 节点 节点 节点 节点 电能量按节 点交易结算 节点 辅助服务按安 全域交易结算 节点 节点 节点 节点 节点 节点 节点 节点 节点 节点 节点 节点 节点 节点 节点 节点 节点 节点 节点 节点 为什么按安全域设置备用需求 ? 整个区域网 节点 节点 提供备用的电源 提供备用的电源 节点 节点 节点 节点 节点 节点 经常堵塞 节点 节点 机组故障或 负荷急升 节点 电 价 发电侧单边报价或发用两侧报价 基 于 申 报 信 息 以 及 电 网 运 行 边 界 条 件 , 采 用 安 全 约 束 机 组 组 合 (SCUC) 和安全约束经济调度 (SCED) 程序进行优化计算,出 清得到日前市场交易结果。简单而言,在保证电网安全的前提下,20 积分 | 101 页 | 13.85 MB | 1 月前3
智慧农业解决方案温湿度传感节点 环境设备监测传感节点 光照传感节点 土壤水分传感节点 安防、人员管理传感节点 CO2 传感节点 RFID 读写设备节点 各功能传感节点可根据蔬菜种类、种植面积的不同,进行相关数量和布署位置的调整。 温室大棚出入 口 图像设备节点 自动化控制设备 网关节点 控制节点 无线连接基 地信息管理 中心 环境设备传感节点 RFID 耳标读写设备节点 氨气浓度传感节点 氨气浓度传感节点 人员管理 RFID 读写器节点 自动化喂养设备节点 温湿度传感节点 CO2 浓度传感节点 光照传感节点 饲料、疫苗管理 RFID 读写器节点 自动化猪 舍入口处 各功能传感节点可根据围栏及饲养方式的不同,进行相关数量和布署位置的调整。 图像设备节点 汇聚节点(网关) 无线连接 基地信息 管理中心 畜禽养殖环境监控子系统建设方案 超速报警 油耗监测 物流配送车辆管理子系统技术架构10 积分 | 25 页 | 11.99 MB | 17 天前3
智慧农业解决方案 -促进产业结构转型,突破传统业态温湿度传感节点 环境设备监测传感节点 光照传感节点 土壤水分传感节点 安防、人员管理传感节点 CO2 传感节点 RFID 读写设备节点 各功能传感节点可根据蔬菜种类、种植面积的不同,进行相关数量和布署位置的调整。 温室大棚 出入口 图像设备节点 自动化控制设备 网关节点 控制节点 无线连接 基地信息 管理中心 蔬菜花卉环境监控子系统建设方案 环境设备传感节点 RFID RFID 耳标读写设备节点 氨气浓度传感节点 人员管理 RFID 读写器节点 自动化喂养设备节点 温湿度传感节点 CO2 浓度传感节点 光照传感节点 饲料、疫苗管理 RFID 读写器节点 自动化猪 舍入口处 各功能传感节点可根据围栏及饲养方式的不同,进行相关数量和布署位置的调整。 图像设备节点 汇聚节点(网关) 无线连接 基地信息 管理中心 畜禽养殖环境监控子系统建设方案 人为因素 生产与 效果展示并存,互动体验与休闲消费并重的具有示范意义的温室。 智能 农业 效果 展示 系统 监控展示中心技术架构 DLP 拼接屏可实现多 维信息的实时显示 无线传感网节点 视频监控点 无线传感网节点 视频监控点 名贵花卉展示区 灌溉系统 温室通风系统 温室内循环系统 中心机房 温室信息显示 监控展示中心建设方案 谢 谢!20 积分 | 35 页 | 8.35 MB | 1 月前3
智算中心建设项目解决方案(43页PPT)离鳞渲染等业努 打造高效、 CONTENTS 4 2 3 贵州省政策支持 《关于促进全国一体化算力网络国家 ( 贵州 ) 枢纽节点建设的若干激励政 策》 建设支持:奖励新建算力中心 ,发放“贵州算力券 ”, 打造算力高地。【申请 “贵州算力券” 800 万】 数据流通: 归集数据集 ,建设训练基地 ,奖励数据交 易 主体。 产业发展:培育产业生态 ,发展云服务 ,汇聚算力资源。 全闪存存储子系统 高性能文件存储子系统 典型超算智算中心核心系统单元包含通用计算子系统、智能计算( AI )子系统和高性能计算( HPC )子系统。 l 超算计算节点和智能计算节点分别通过 IB/RoCE 网络等高速网络交换子系统进行高速互连; l 集成多层次、多协议、多种数据保护模式的全闪存存储系统和高性能并行文件存储系统 ,以及配套的信息安全子系统和超 算中心融合管理子系统。 数据流向 高速 RDMA 网络 大二层架构 数据流向 防火墙流量 清洗 数据流向 独立带内、带外 管理网络 高速存储集群(并行文件存储) Spine - Leaf 拓扑 双飞塔冗余 管理节点 强电系统 弱电系统 不间断电源系统 制冷系统 监控系统 消防系统 机房工程 业务架构设计10 积分 | 43 页 | 5.90 MB | 1 月前3
智慧农业解决方案温湿度传感节点 环境设备监测传感节点 光照传感节点 土壤水分传感节点 安防、人员管理传感节点 CO2 传感节点 RFID 读写设备节点 各功能传感节点可根据蔬菜种类、种植面积的不同,进行相关数量和布署位置的调整。 温室大棚 出入口 图像设备节点 自动化控制设备 网关节点 控制节点 无线连 接基地 信息管 理中心 03 畜禽养殖环境监控子系统建设方案 环境设备传感节点 RFID RFID 耳标读写设备节点 氨气浓度传感节点 人员管理 RFID 读写器节点 自动化喂养设备节点 温湿度传感节点 CO2 浓度传感节点 光照传感节点 饲料、疫苗管理 RFID 读写器节点 自动化猪 舍入口处 各功能传感节点可根据围栏及饲养方式的不同,进行相关数量和布署位置的调整。 图像设备节点 汇聚节点(网关) 无线连接基地信 息管理中心 03 物流配送车辆管理子系统技术架构10 积分 | 36 页 | 14.60 MB | 7 月前3
智慧农业解决方案温湿度传感节点 环境设备监测传感节点 光照传感节点 土壤水分传感节点 安防、人员管理传感节点 CO2 传感节点 RFID 读写设备节点 各功能传感节点可根据蔬菜种类、种植面积的不同,进行相关数量和布署位置的调整。 温室大棚出入 口 图像设备节点 自动化控制设备 网关节点 控制节点 无线连接基 地信息管理 中心 环境设备传感节点 RFID 耳标读写设备节点 氨气浓度传感节点 氨气浓度传感节点 人员管理 RFID 读写器节点 自动化喂养设备节点 温湿度传感节点 CO2 浓度传感节点 光照传感节点 饲料、疫苗管理 RFID 读写器节点 自动化猪 舍入口处 各功能传感节点可根据围栏及饲养方式的不同,进行相关数量和布署位置的调整。 图像设备节点 汇聚节点(网关) 无线连接 基地信息 管理中心 畜禽养殖环境监控子系统建设方案 超速报警 油耗监测 物流配送车辆管理子系统技术架构10 积分 | 26 页 | 11.26 MB | 6 月前3
智算中心暨电力大模型创新平台解决方案(51页PPT)第 8 页 典型超算智算中心核心系统单元包含通用计算子系统、智能计算( AI ) 子系统和高性能计算( HPC ) 子系统。 l 超算计算节点和智能计算节点分别通过 IB/RoCE 网络等高速网络交换子系统进行高速互连; l 集成多层次、 多协议、 多种数据保护模式的全闪存存储系统和高性能并行文件存储系统 , 以及配套的信 4 主流智算平台介绍 5 项目优势 1 行业发展分 析 CONTENTS 强电系统 弱电系统 不间断电源系统 制冷系统 监控系统 消防系统 机房工程 管理节点 AI 计算集群 HPC 计算集群 通用云计算集群 高速存储集群 (并行文件存储) 高速 RDMA 网络 统一运营管理平台 服务目录 项目管理 用户管理 配额管理 输入:标准化后的数据集 • 昇腾集群分布式计算: • 多节点并行计算梯度 • 参数服务器架构更新模型参数 • 节点间同步最新参数 • 验证评估: • 定期计算预测误差 • 反馈调优信号指导模型优化 3. 模型压缩 • 将 FP32 转换为 INT8 量化推理模型 • 优化模型体积和计算效率 4. 边缘部署 • 推送 INT8 模型至变电站 NPU 节点 • 完成边缘侧模型部署 学习率策略:初始学习率10 积分 | 51 页 | 4.74 MB | 1 月前3
信创云规划设计建设方案全替代:面向全国,生态完整 HN 云: 50 节 点 T J 云: 20 节 点 从无到有 从“不可用” 到“基本可用” 从“基本可用” 到“基本好用” 从“基本好用” 到“智能高效” GX 云: 900 节点 随着信创领域软硬件产品功能和性能的升级,下一阶段的发展必定是利用云计算、大数据等新兴技术,不断拓 宽信创的边界,创造更大的价值 信创云建设是政企数字化转型的必然趋势 13 01 02 3-128 节点: 3 控制节点 128-256 节点: 5 控 制节点 256-512 节点: 7 控 制节点 512-1000 节点: 10 控 制节点 不同云厂商,不同规模的计算节点,控制节点开销不同。本次根据项目需求,计算节点规模为 100 节点。 华为云 5-200 节点: 5 个控制节点 200-500 节点: 9 控 制节点 500-1000 500-1000 节点: 11 控 制节点 信创云部署架构(系统层) 21 计算资源池需规划区域、计算类型、 VM 类型等 本次针对政务外网划分 为一个单独 Region 计算资源划分为一个单 独 AZ 区域规划 针对普通的应用系统, 如 WEB ,对内存容量、 IO 、扩展性的要求都不 高,采用虚拟主机 对于高性能计算,大容 量存储,大容量内存和 高10 积分 | 59 页 | 11.07 MB | 7 月前3
信创云规划设计建设方案全替代:面向全国,生态完整 HN 云: 50 节 点 T J 云: 20 节 点 从无到有 从“不可用” 到“基本可用” 从“基本可用” 到“基本好用” 从“基本好用” 到“智能高效” GX 云: 900 节点 随着信创领域软硬件产品功能和性能的升级,下一阶段的发展必定是利用云计算、大数据等新兴技术,不断拓 宽信创的边界,创造更大的价值 信创云建设是政企数字化转型的必然趋势 13 01 02 3-128 节点: 3 控制节点 128-256 节点: 5 控 制节点 256-512 节点: 7 控 制节点 512-1000 节点: 10 控 制节点 不同云厂商,不同规模的计算节点,控制节点开销不同。本次根据项目需求,计算节点规模为 100 节点。 华为云 5-200 节点: 5 个控制节点 200-500 节点: 9 控 制节点 500-1000 500-1000 节点: 11 控 制节点 信创云部署架构(系统层) 21 计算资源池需规划区域、计算类型、 VM 类型等 本次针对政务外网划分 为一个单独 Region 计算资源划分为一个单 独 AZ 区域规划 针对普通的应用系统, 如 WEB ,对内存容量、 IO 、扩展性的要求都不 高,采用虚拟主机 对于高性能计算,大容 量存储,大容量内存和 高10 积分 | 59 页 | 11.07 MB | 7 月前3
共 509 条
- 1
- 2
- 3
- 4
- 5
- 6
- 51
