电子行业AI+系列专题:边缘AI,大语言模型的终端部署,推动新一轮终端需求-20230531-国信证券-25页1750 亿个=315*10^21FLOPs;考虑训练时间要求在 30 天 完成(训练时间为 2592000 秒),则对应 GPT-3 训练所需算力为 121528TFLOPS;结合 A100 有效算力 78TFLOPS,得到所需 GPU 数量为 1558 个,对应 AI 服务器为 195 台。 推理阶段:按谷歌每日搜索量 35 亿次进行估计,假设每次访问提问 4 次,每次提问+ 回答需处理字数 425 亿个,则推理所需运算次数为 4760*10^21FLOPs;考虑推理时间以每 日为单位(推理时间为 86400 秒),则对应 GPT-3 推理所需算力为 55*10^6TFLOPS; 结合 A100 有效算力 78TFLOPS,得到所需 GPU 数量为 706315 个,对应 AI 服务器为 8.8 万台。 图12:算力计算公式 图13:近年推出的大预言模型有效算力比率 资料来源:NVIDIA,国信证券经济研究所整理 整理 表3:大预言模型算力测算 A100 PCle H100 PCle 训练阶段算力需求测算 Tensor Float 32(TF32) 156TFLOPS 756TFLOPS 有效算力 78TFLOPS 378TFLOPS GPT-3 训练所需运算次数 315*10^21FLOPs 315*10^21FLOPs GPT-3 训练所需算力 121528TFLOPS 121528TFLOPS0 积分 | 25 页 | 2.20 MB | 6 月前3
电子AI+系列专题:复盘英伟达的AI发展之路=315*10^21FLOPs ;考 虑训练时间要求在 30 天完成(训练时间为 2592000 秒),则对应 GPT-3 训 练所需算力为 121528TFLOPS ;结 合 A100 有效算力 78TFLOPS ,得到所需 GPU 数量为 1558 个,对应 AI 服务器为 195 台。 l 推理阶段:按谷歌每日搜索量 35 亿次进行假设,估算得到 GPT-3 每 日 需推理 token 亿个,则推理所需运算次数为 4760*10^21FLOPs ; 考虑推理时间以每日为单位(推理时间为 86400 秒),则对应 GPT-3 推理 所需算力为 55*10^6TFLOPS ;结合 A100 有效算力 78TFLOPS ,得到所需 GPU 数量为 706315 个,对应 AI 服务 器为 8.8 万台。 l 根据上述结论, GPT-3 新增 GPU 价值达到英伟达公司 FY23 收入的 39.4% 球 AI 服务器数量的 65.35% 。 GPU 相关 A100 PCle H100 PCle Tensor Float 32(TF32) 156TFLOPS 756TFLOPS 有效算力 78TFLOPS 378TFLOPS GPT-3 推理所需运算次数 4760*10^21FLOPs 4760*10^21FLOPs GPT-3 推理所需算力 55*10^6TFLOPS 55*10^6TFLOPS0 积分 | 30 页 | 1.27 MB | 6 月前3
电子行业:AI大模型需要什么样的硬件?-20240621-华泰证券-40页等 600584 CH 长电科技 55,615 29,555 78% 23,171 芯片封装 002273 CH 水晶光电 22,487 5,028 78% 3,933 红外滤光片、微棱镜、薄膜光学面板 300433 CH 蓝思科技 85,609 -14.5% 2.6% 11.8% -10.9% -15.4% -13.6% 0.2% 6.0% 18.8% 华为+荣耀 241 189 78 88 97 124 22.8 23.0 19.5 23.4 26.00 积分 | 40 页 | 2.60 MB | 6 月前3
中国制造2025:实现技术领先的代价研究报告(英文版)chips [and] putting in place an adequate framework to increase production by 2030”, among others. 78 The European Chips Act also shares some similarities with the US Chips Act, 79 setting the stage bloomberg.com/news/articles/2023-04-26/asml-europe-s-most-valuable-tech-firm-to-define-us-china-chip-war> 78 Shaping Europe’s digital future: European Chips Act, European Commission, last updated 20 th January10 积分 | 51 页 | 2.82 MB | 4 月前3
中国制造2025:实现技术领先的代价研究报告对外依赖。”该法案设定的目标是通过 “建设和加强欧洲在先进芯片设计、制造和封装方面的创新能力,并建立一个适当的框架,到 2030 年提 高产能”,以实现半导体全球市场份额达到 20% 的目标。 78《欧洲芯片法案》与美国的《芯片法案》有一 些相似之处, 79 这为欧盟、美国和中国在半导体领域的长期竞争奠定了基础。 迄今为止,尚无国家能够将整个先进芯片供应链完全本土化,因此,这对于中国而言是一个巨大挑 bloomberg.com/news/articles/2023-04-26/asml-europe-s-most-valuable-tech-firm-to-define-us-china-chip-war> 78 《打造欧洲的数字未来:欧洲芯片法案》,欧盟委员会,最后更新日期 2024 年 1 月 20 日,查阅日期 2024 年 2 月 7 日,10 积分 | 52 页 | 3.05 MB | 4 月前3
青岛市微电网发展研究——基于典型示范项目的调查将能源互联网列入青岛市战略新兴产业,提出加快建 设智能电网、微电网、分布式能源、新型储能等基础 设施网络,推动技术标准体系和产业基础建设 2021 关于印发《青岛市“十四五” 能源发展规划》的通知青政 办字〔2021〕78 号〕 统筹推进电网建设,致力打造安全可靠、经济高效、 绿色低碳、智慧共享的坚强电网,着力构建以新能源 为主体的新型电力系统。 2022 关于印发《青岛市“十四五” 应对气候变化规划和青岛市 温室气体减排和大气污染治0 积分 | 35 页 | 1.96 MB | 5 月前3
星图研究院:2025年视觉IoT消费市场分析报告右增长,随着大厂推动 4G 免费,4G+ 低功耗场景会越来越多,未来将保持高速增长势头,预计 到 2026 年低功耗 IPC 市场规模达到 250 亿元。 数据来源:AIoT 星图研究院 53.4 66 78 112.5 140 189 250 8.9 11 13 22.5 28 37.8 50 16% 24% 18% 73% 24% 35% 32% 0% 10% 20% 30%10 积分 | 50 页 | 29.10 MB | 5 月前3
各省市低空政策汇编........................................ 78 1.广东(广东省、佛山、佛山禅城区、惠州、肇庆、中山、中山市阜沙镇、珠海、东莞、东莞谢岗镇、茂名市、湛江、清远) ..................................................... 78 2.河南(河南省、郑州、郑州航空港区) .................... 省 / 市 / 县 文件 主要内容 1 河北省 文件名称:关于加快推动河 北省低空制造业高质量发 展的若干措施 发文时间: 2024/5/31 文件号: 冀工信装 〔 2024 〕 78 号 发文单位:河北省工业和信 息化厅 、 河北省交通运输 厅、河北省发展和改革委员 会 、河北省科学技术厅 目标: 依托河北丰富的应用场景, 以研发创新为牵引,推动低空制造业全链条发展,加速产品更新迭代、推动产业 、深圳) 、河南 、湖北 、湖南 、海南 、广西) 1. 广 东(广东省、 佛山、 佛山禅城区、 惠州、 肇庆、 中山、 中山市阜沙镇、珠海、 东莞、 东莞谢岗镇、 茂名市、 湛江、 清远) 78 2 广东省 文件名称:低空经济应用场 景需求清单 发文时间: 2024/ 10/29 发文单位:广东省投资促进 局 需求领域( 7 个) 行业应用 、低空基础设施 、生产制造 、行业作业0 积分 | 169 页 | 1.24 MB | 5 月前3
智慧的城市在中国“盘古”及运行在其上的商务智能与决策支撑应用服务 可对各种市民信息卡交易所产生的海量数据进行分析并作相应的关联,以使得该城市的管理 变得更加高效、智慧和亲民。最终成为一个智慧的和便民的城市。 智慧的城市在中国突破 780 积分 | 89 页 | 5.09 MB | 5 月前3
经济开发区“智慧园区”可行性研究分析报告理。 告警事件处理完毕后,可将该事件标记为已处理状态。 查看历史告警事件,可按子系统,告警类型,报警日期,处理 日期,报警状态,确认状态进行查看。可对抓拍预览、录像回放、 处理意见进行查看。 78 经济开发区“智慧园区”项目项目建议书 10)终端 APP APP 播放终端具备权限配置功能,可根据用户的角色配置摄像 机实时视频播放权限,根据角色分配查看权限。 摄像机列表支撑多级展示,从监控中心,区域,摄像机名称,10 积分 | 164 页 | 16.45 MB | 5 月前3
共 11 条
- 1
- 2
