电子AI+系列专题:DeepSeek重塑开源大模型生态,AI应用爆发持续推升算力需求DeepSeek-R1 采用分阶段强化学习架构演进,包括冷启动阶段、面向推理的强化学习、拒绝采样 与监督式微调、全场景强化学习等。 l AI 应用爆发在即,算力需求持续攀升,关注 ASIC 及服务器产业链。 Scaling Law 与“涌现”能力是大模型训练遵循的重要法则,随着 ChatGPT 引领全球 AI 浪潮, 国内外科技公司纷纷发布 AI 大模型,截至 24 年 7 月,全球 AI 资本开支持续高速增长,带 来 AI 服务器市场规模大幅提升,预计到 26 年全球 AI 服务器出货量将达到 237 万台,对应 2023-2026 年 CAGR 为 26% 。 l 重点推荐组合:中芯国际、翱捷科技、德明利、工业富联、沪电股份、联想集团、国芯科技、澜起科技、芯原股份、龙芯中科、东山精密、景旺电子。 l 风险提示:宏观 AI 应用推广不及预期、 AI 投资规模低于预期、 AI 服务器渗透率提升低于预期、 应用爆发持续推升算力 需求 请务必阅读正文之后的免责声明及其项下所有内容 Deep Seek 发展突 飞猛进 ,领跑开源大模型技术 与生态 A I 应用爆发在 即 ,算力 需求持续攀升 , 关注 AS IC 及服务器产 业链 风险提示 请务必阅读正文之后的免责声明及其项下所有内容 02 01 03 目录 DeepSeek 发展突飞猛进,领跑开源大模型技术与生 态 请务必阅读正文之后的免责声明及其项下所有内容0 积分 | 38 页 | 1.95 MB | 6 月前3
电子AI+系列专题:复盘英伟达的AI发展之路FY2Q24 收入指引为 107.8-112.2 亿美元 (YoY 60.8% 至 67.4% , QoQ 49.9% 至 56.0%) 。 l 产业链相关公司:算力:英伟达、海光信息、寒武纪、全志科技;服务器:工业富联、国芯科技、环旭电子、闻泰科技、易德龙; PCB :沪电股份、 胜宏科技、东山精密、鹏鼎控股; AI 终端: 晶晨股份、瑞芯微;先进封装: 长电科技、通富微电、芯原股份;存储:深科技、江波龙、佰维存储、 2592000 秒),则对应 GPT-3 训 练所需算力为 121528TFLOPS ;结 合 A100 有效算力 78TFLOPS ,得到所需 GPU 数量为 1558 个,对应 AI 服务器为 195 台。 l 推理阶段:按谷歌每日搜索量 35 亿次进行假设,估算得到 GPT-3 每 日 需推理 token 数为 79330 亿个,则推理所需运算次数为 4760*10^21FLOPs 根据上述结论, GPT-3 新增 GPU 价值达到英伟达公司 FY23 收入的 39.4% 。 综合 IDC 及 TrendForce 数据估算, GPT-3 新增 AI 服务器 数量达到 2021 年全 球 AI 服务器数量的 65.35% 。 GPU 相关 A100 PCle H100 PCle Tensor Float 32(TF32) 156TFLOPS 756TFLOPS 有效算力0 积分 | 30 页 | 1.27 MB | 6 月前3
经济开发区“智慧园区”可行性研究分析报告10.7(T1); 4、一天内忙时的处理量为平均值的 8 倍(B2); 5、考虑服务器保留 30%的冗余(R); 服务器处理能力为: TPC-C = ( U1*B1*T1*B2 ) / ( 1-R ) = (2500*0.1*10.7*8)/(1-30%)=30,571.429tpmC 为了方便计算应用及服务器的内存需求,我们约定: 1)系统占用空间约 5G 2)应用系统占用 5G 16 16 经济开发区“智慧园区”项目项目建议书 3)每个并发连接占用 5M 4)考虑服务器内存保留冗余 30% 内存需求=(每秒并发操作数*每个并发连接数+系统占用空间+ 应用系统占用空间)=(2500*10%*0.005+1+5)*1.3=9.425G (二)存储量估算 根据初步调研,本期项目主要存储如下信息数据: 1、地理信息数据:按照园区规划面积 56.7 平方公里,建成 7.5 (二)总体规划内容 规划建设指挥运营中心、公共支撑平台、智慧感知设备,实现 十大项智慧园区应用。其中: 1、指挥运营中心建设内容包括大屏展示、指挥调度、数字会议、 分布式坐席、数据中心(机房建设、服务器、存储、网络&网络安 全、辅助设施)等。 2、公共支撑平台包括建设内容包括智慧大脑、云平台、大数据 平台、物联网、GIS、视频云、集成服务等。 3、布设物联感知设备包括视频感知、环保感知、人脸闸机、智10 积分 | 164 页 | 16.45 MB | 5 月前3
电子行业AI+系列专题:边缘AI,大语言模型的终端部署,推动新一轮终端需求-20230531-国信证券-25页完成(训练时间为 2592000 秒),则对应 GPT-3 训练所需算力为 121528TFLOPS;结合 A100 有效算力 78TFLOPS,得到所需 GPU 数量为 1558 个,对应 AI 服务器为 195 台。 推理阶段:按谷歌每日搜索量 35 亿次进行估计,假设每次访问提问 4 次,每次提问+ 回答需处理字数 425 字,平均每个字转换为 token 比例为 4/3,则每日 GPT-3 日为单位(推理时间为 86400 秒),则对应 GPT-3 推理所需算力为 55*10^6TFLOPS; 结合 A100 有效算力 78TFLOPS,得到所需 GPU 数量为 706315 个,对应 AI 服务器为 8.8 万台。 图12:算力计算公式 图13:近年推出的大预言模型有效算力比率 资料来源:NVIDIA,国信证券经济研究所整理 资料来源:NVIDIA,国信证券经济研究所整理 表3:大预言模型算力测算 亿美元 53.2 亿美元 资料来源:NVIDIA,国信证券经济研究所整理 因此,训练大模型必然需要采用分布式方案。不仅要满足算力的需求,还要解决上千 块 GPU 的分布式训练问题,需要考虑到上百台服务器之间的通信、拓扑、模型并行、 流水并行等,这也是复现 GPT-3 的核心难点,模型发布后一年也只有 NVIDIA、微软等 大厂成功复现,目前开源的 GPT 模型库就主要是 NVIDIA 的 Megatron-LM0 积分 | 25 页 | 2.20 MB | 6 月前3
某区智慧旅游可行性研究报告(286页 WORD)区智慧旅游建设项目可以更加完善进步。主要应用的技术有: 1.云计算 云计算是一种基于因特网的超级计算模式,在远程的数据中心 里,成千上万台电脑和服务器连接成一片电脑云。云计算的基本原 理是,通过使计算分布在大量的分布式计算机上,而非本地计算机 或远程服务器中,使数据中心的运行更与互联网相似。云计算包括 三个层次的服务:基础设施即服务(IaaS),平台即服务(PaaS) 和软件即服务(SaaS)。 滨河新区京河大道以南、骏驰大道西北,作为区市两级的重点工程, 大数据中心一期规划总用地面积 50 亩,总投资约 3 亿元,规划 1000 个机柜,可承载 2 万组服务器,存储能力可达 1.1EB。 2014 年 6 月动工,现已建成 508 个机柜,可承载 1 万组服务器, 为银川市的旅游管理、政务管理、公共服务、经济发展、游戏/银行 等行业提供大数据支持和服务。即将启动的二期工程占地 130 亩, 总建筑面积达 整合数据和应用,将数据转化为资源,将业务系统转化为 服务能力,能够快速重构应用系统,快速响应业务变化,支撑旅游 业态的快速发展。 建设统一的云计算资源调度和计费监控平台,实现各类计 算资源(包括物理服务器和虚拟服务器)、存储资源、网络资源的 统一调度、管理和运维监控。 充分利用现有 IT 基础资源,对原有设备进行充分利旧, 纳入 IT 云平台的统一管理。 提供智慧管理体系、智慧服务体系、智慧营销体系和智慧40 积分 | 408 页 | 7.76 MB | 13 天前3
电子:DeepSeek-R1加速AI进程,看好AI应用端潜力释放请务必阅读正文之后的免责条款部分 行业研究报告 提速,服务器产业链受益。DeepSeek 具备开源、低成本和高性能的特 性,各大云厂接入 DeepSeek,有望加速推动大模型走入千行百业,带 动推理需求实现增长,服务器产业链有望受益。建议关注电源、PCB、 铜缆、光模块等环节,例如麦格米特、泰嘉股份、沪电股份、深南电 路、沃尔核0 积分 | 4 页 | 269.47 KB | 6 月前3
电子行业深度报告:DeepSeek推动模型平权,关注AI终端及算力领域电子行业深度报告 21 请务必阅读末页声明。 中微软预计 Q1 及 Q2 支出与 24Q4 接近,Q3 及 Q4 将根据需求投资;亚马逊资本开支年化 有望超千亿;谷歌预计全年支出 750 亿美元,主要用于服务器,其次为数据中心和网络 建设;Meta 预计全年支出约为 600-650 亿美元,主要投向 AI 和核心业务。总体来看海 外 CSP 并没有因 DeepSeek V3 及 R1 模型推出而放缓资本开支投入的步伐,反而加大相 应用场景会加速普及,从而反哺算力需求。以 DeepSeek 为例,其热度在 春节期间迅速点燃,访问量激增使得服务多次出现异常,频频回复“服务器繁忙,请稍 后再试”,2 月 6 日 DeepSeek 还暂停了 API 服务充值,算力亟需扩容。据 Trendforce 预测,在悲观、中性、乐观情况下,今年 AI 服务器出货量同比增速分别有望达到 20%-25%、 28%和 35%,仍将维持较高速度增长。 图 42:算力需求 技术推进不及预期:若 AI 大模型性能、降本不及预期,或会影响 AI 终端推出时间,进 而影响产品出货量、产业链相关公司业绩。 资本开支投入不及预期:若海外及国内 CSP 资本开支投入不及预期,或会影响服务器、 数据中心、网络设备等基础设施建设进度,进而影响产业链相关公司业绩。 表 5:重点公司盈利预测及投资评级(截至 2025/2/19) 代码 股票简称 股价(元) EPS(元) PE(倍)0 积分 | 23 页 | 2.65 MB | 6 月前3
电子行业深度报告:AI系列深度,AI+降本增效拓宽应用,硬件端落地场景丰富-20230712-东吴证券-28页SOC 端包括瑞芯微、全志科技、中科蓝汛、乐鑫科技、恒玄科技、晶 晨股份;存储产业链包括兆易创新、澜起科技、聚辰股份、北京君正。 4、零部件及组装:领益智造、威机电、三利谱、歌尔股份、长盈精密。 5、服务器端:PCB 龙头沪电股份、全球代工龙头工业富联。6、传输端: 源杰科技、中际旭创、新易盛、华工科技。 ◼ 风险提示: AI 应用推广不及预期;AI 技术发展低于预期导致应用面 狭窄。 商业化的进程中,在边缘计算的加持下“端”的应用有望弥补 AI 大模型的 局限性。边缘计算指的是将计算和数据存储能力移动到接近数据源的边缘设备,如 AI 边缘计算盒子、物联网设备等,而不仅仅依赖于远程的云服务器。边缘计算在成本、时 延、隐私上具有天然优势,也可以作为桥梁,预处理海量复杂需求,并将其导向大模型。 人工智能的未来既需要终端侧 AI,也需要云端 AI。在终端侧运行 AI 应用可提升成本效 过网络回传的数据量也越来越大,将数据的结构化、处理与分析完全集中到云端会有网 络传输压力、实时性要求达不到、准确性降低等问题。 “云+边缘”的边缘计算解决方案,把 AI 算力注入边缘,提升 AI 服务器的响应速 度,也大幅降低了网络运营成本。通过在网络摄像头上添加人工智能芯片,前端摄像头 可以实时对视频数据进行结构化处理。例如,设置在交通路口的摄像头可以提取车牌, 车型等汽车信息,和乘客数量0 积分 | 28 页 | 2.68 MB | 6 月前3
浙江省地标-大中型体育场馆智慧化建设和管理规范网; ——记录进出车辆的车牌、车辆全貌、时间等抓拍信息; ——宜在场馆主出入口部署防撞升降柱和车底可疑物品检测装置。 7.4.9 网络管理平台 7.4.9.1 网络管理平台应实现存储、服务器、应用、交换机、路由器、防火墙、无线局域网、无源光 纤网络、无线宽带集群设备、视频监控、IP话机、视讯设备等多种设备的统一管理,支持多厂商设备统 一视图、资源、拓扑、故障、性能以及智能配置功能。 7 授权访问、窃取、损害或干扰。 8.3 网络安全、信息安全保障工作应符合 GB/T 20271、GB/T 22239、GB/T 22240、GB/T 25058 等要求, 保障网络设备、通信线路、服务器正常运行。 8.4 应对场馆运营管理以及场馆运维管理的各项子应用进行技术防护,支撑对信息访问者或管理者进 行身份识别和接入位置识别、安全控制。 8.5 应做好用户数据、系统信息数据的加密,保障数0 积分 | 20 页 | 613.17 KB | 5 月前3
中国零售数字化企业出海现状与趋势白皮书Retailers to Thrive in the Digital Age �� � 零售数字化产业链生态图谱 上游 中游 下游 产业链 基础 设施 云 服务 基础硬件 数据中心 服务器 存储器 网络 提供上云服务 零售数字化解决方案 产品使用 零售数字化企业 零售商 IaaS PaaS ... 应 用 程 序 开 发 用 户 资料来源:弗若斯特沙利文 助力零售赢在数字时代 Empower Retailers to Thrive in the Digital Age �� 零售数字化产业链上游以基础设施与云服务为基石,构建起支撑全行业的数字底 座。基础设施层由数据中心、服务器、存储器及网络传输四部分构成,为数据存储、 传输与处理提供物理载体。云服务则通过IaaS(基础设施即服务)和PaaS(平台即 服务)构建虚拟化技术平台,实现计算资源的弹性配置与应用开发的标准化环境。10 积分 | 39 页 | 19.55 MB | 4 月前3
共 16 条
- 1
- 2
