AI 大模型需要什么样的硬件？ 华泰研究 电子 增持 (维持) 研究员 黄乐平，PhD SAC No. S0570521050001 SFC No. AUZ066 leping.huang@htsc.com +(852) 3658 6000 研究员 胡宇舟 SAC No. S0570523070005 S0570523070005 SFC No. BOB674 huyuzhou@htsc.com +(852) 3658 6000 研究员 黄礼悦 SAC No. S0570523070007 SFC No. BRH099 andrewhuang@htsc.com +(86) 21 2897 2228 联系人 权鹤阳 SAC No. S0570122070045 华泰观点：关注 AI 大模型 x 硬件的两条思路 从 22 年 11 月 OpenAI 推出 ChatGPT 至今，我们看到 Chatbot 应用的能力 不断增强，从最初的文字问答，迅速向具有自主记忆、推理、规划和执行的 全自动能力的 AI Agent 发展。我们认为端侧智能是大模型发展的重要分支。 建议投资人沿着：1）大模型如何赋能终端，2）终端如何解决大模型普及难 点两条思路，寻找硬件的落地机会。我们看好

电子 AI+ 系列专题报告 Deep Seek 重 塑 开 源 大 模 型 生 态 ， A I 应 用 爆 发 持 续 推 升 算 力 需 求 证券分析师：胡剑 证券分析师：胡慧 证券分析师：叶子 证券分析师：张大为 证券分析师：詹浏洋 021-60893306 021-60871321 0755-81982153 021-61761072 010-88005307 hujian1@guosen S0980524100002 S0980524060001 l DeepSeek 发展突飞猛进，领跑开源大模型技术与生态， DeepSeek 模型已成为全球现象级模型。 DeepSeek( 深度求索 ) 公司成立于 2023 年 7 月，是一家致力 于实现 通用人工智能 (AGI) 的创新型科技公司。 与监督式微调、全场景强化学习等。 l AI 应用爆发在即，算力需求持续攀升，关注 ASIC 及服务器产业链。 Scaling Law 与“涌现”能力是大模型训练遵循的重要法则，随着 ChatGPT 引领全球 AI 浪潮， 国内外科技公司纷纷发布 AI 大模型，截至 24 年 7 月，全球 AI 大模型数量约 1328 个 ( 其中美国位居第一位，占比 44% ；中国位居第二位，占比 36%) ，模型的 迭代加速、 竞争加剧。同时，

请务必阅读正文之后的免责声明及其项下所有内容 证券研究报告 | 2023年05月31日 超 配 电子 AI+系列专题报告 边缘 AI：大语言模型的终端部署，推动新一轮终端需求 核心观点 行业研究·行业专题 电子 超配·维持评级 证券分析师：胡剑 证券分析师：胡慧 021-60893306 021-60871321 hujian1@guosen.com.cn huhui2@guosen 《电子行业周报-在行业周期筑底阶段无需过度悲观》 —— 2023-05-08 大模型参数量级飞涨，相应训练集需同比提升。李开复定义 AI 2.0 时代的 特征是通过海量数据，无需标注自监督学习，训练一个基础大模型，并在各 领域将其专业化。据相关论文，当模型的参数量大于某阈值，会展现出类似 推理、无监督学习等未曾出现的能力，这种现象被称为“涌现”，因此目前 大语言模型参数均在十亿量级以上。同时，Deepmind 研究表明，模型参数的 研究表明，模型参数的 上涨需要配合等比例上升的优质数据集来达到最佳训练效果。因此，大模型 参数在十亿级以上发展并受限于优质数据集的增速是 AI 发展的必然趋势。 大模型增长挑战芯片算力和内存，无法实现完整端侧部署。大模型训练和推 理的三大瓶颈是算力、显存和通信，根据我们的测算，算力方面 GPT-3 训练 所需算力为 121528 TFLOPS，若 30 天内完成，需要 1558 颗 A100。内存角度，

........ 8 2.1 基础信息化 ................................................................. 8 2.2 驾驶员泊车辅助 ............................................................. 9 2.3 自动驾驶泊车 .................. 现有停车资源由于缺乏统一调度管 智慧停车发展及智慧停车系统白皮书 3 理，车位使用率低，尚存在大量车位闲置浪费。根据公开数据统计，全国超过九成的 城市停车位使用率小于 50%，北上广深四大一线城市的车位使用率分别为 49%、40%、 48%和 55%。因此，如何盘活闲置车位、提升现有停车资源的使用效率，仍具备较大 的挖掘空间。 图 1-5 我国城市停车使用率分布情况（数据来源：公开资料整理） 智慧停车发展及智慧停车系统白皮书 5 自主缴费等应用。具体的，日本所有的停车场都设有醒目的停车诱导标志，自动显示 停车场的空满状态、价格信息等，大部分停车场上传空满状态到停车服务平台，驾驶 员可通过智能终端查看周边停车场的位置、价格等信息。此外，停车管理网络，还可 以实时采集车辆进出、停车场利用率、机器故障等信息，通过运营分析，对不同地区 的停车场制定动态的价格，合理引导车流，提高停车网络的整体经营水平；通过及时

社会发展环境 XX 自贸区商贸物流产业急需智慧旅游平台支撑。XX 区是集国 19 家级开发区、保税区、台商投资区、科技园区、出口加工区、生态 工业园区和科技兴贸出口创新基地等功能于一体的自贸区，拥有大 量的自贸区跨境电子商务园区、万国国际商城、进口商品展示直销 中心等电子商务企业，对台交流频繁。 XX 区智慧旅游建设能够促进物联网、互联网等内容建设，搭建 两岸网络应用示范中心，为电子商务和两岸信息交流提供便利。 20 体系中 8 大主类的全部，31 个云类中的 21 个亚类，占 67.47%； 155 个基本类型中的 42 个（其中 12 个自然旅游资源类型，30 个人 文资源基本类型）基本类型，占 27.1%。自然类旅游资源包括 4 大 主类，囊括了自然类型的所有种类；8 个云类，约占 47.06%；12 个 基本类型，约占 16.9%。人文类旅游资源包括 4 大主类，囊括了人 文类型的所有种类；12 人文景观和马祖战地风光为代表的两马旅游区。拥有 1 个国家 4A 级 景区、1 个全国工业旅游示范点、1 个国家历史文化名村、1 个国家 重点公园、1 个国家三级博物馆、5 个国家级文保单位等一大批国家 级旅游品牌。丰富的旅游资源，对台的地缘优势，是 XX 实现国际 知名旅游目的地目标的有力保障。 22 3.1.2.2 产品开发与特点 XX 旅游产品建设主要现在以下五个方面： 一是

（一）建设目标 本次准格尔经济开发区智慧园区的建设，以智慧决策大脑为核 心，打造数据使能、基础设施两大基础平台，建设经济运行监测系 统、智慧能耗监测系统、智慧安全监测系统、智慧安全应急系统、 智慧环境监测系统、智慧党建系统、智慧招商系统、智慧管网系统、 智慧城管系统、园区公共服务系统九大智慧应用系统。 智慧园区建设的主要目标可以分为两个层面, 一是直接为园区管 委会服务, 进一步提升园区内部的政务管理能力 应用场景等汇集园区，到 2025 年， 智慧工业园区建设覆盖率达到 100%。本次建设也是国家政策的必 经路线。 二、业务功能、业务流程和业务量分析 （一）业务功能： 本次将基于智慧园区建设的整体思路建立十大核心功能应用系 统，具体如下： 1、经济运行监测系统 通过平台依托宏观统计数据和从相关部门及企业采集的数据， 多维度实现对园区经济总量、质量、效益等综合指标，以及生产、 投资、创新、集群、集约、开放、融资等专项指标的监测分析和趋 统， 车辆出入口控制系统，车辆测速系统、停车管理系统、人员通道闸 机系统、门禁管理系统、紧急报警、消防报警系统等多种安防的硬 件子系统，对各子系统的数据同步、实时告警上报到指挥中心，在 监控大屏上通过 GIS 地图或三维地图展示告警信息、告警设备、告 警位置，配合使用对讲设备，智能终端等多种手段对告警事件进行 及时处理。 深化企业定级分类管理，推行企业隐患自查自报制度，构建安 全风

工智能等现代数字技术进行设计，包括 硬件感知层、核心技术层、基础平台层、业务应用层、应用展示层以及网络安全等级保护体系、技术规 范体系，智慧体育场馆总体架构图见图1。 移动应用 数字可视化 大屏展示 场馆运营指 挥平台 场馆综合运维管控平台 业务中台 硬件感知层 核心技术层 BIM 云计算 物联网 5G通信 人工智能 VR 边缘计算 基础平台层 数据中台 业务应用层 场馆运营管理应用 智慧物业 管理 数字化办 公 设备 日志 安全 认证 设备 缓存 感知+ 数据采集设 备 位置信息 身份信息 行为信息 状态信息 环境信息 客流信息 物联网设备监测平 台 大屏可视 化管理 客流监测 管理 数据 治理 计算 服务 AI中台 算法 容器 集成 SDK 设备 模型 智 慧 体 育 场 馆 网 络 安 全 等 级 保 护 体 系 智 慧 体 场馆运维管理应用为场馆内设施、设备、能效、环境等监控和管理提供运维保障。 6.7.3.2 场馆运维管理应用包括数字孪生、综合态势、实时能耗平台、资产管理、智能应急管理、智 慧物业管理、数字化办公、大屏可视化管理、知识管理、事件日志管理、权限管理、疫情防控管理等。 6.7.3.3 场馆综合运维管控平台各子应用应符合7.1、7.3的规定。 DB33/T 2305—2021 5 6.7.4

............................................................................................154 3.大鹏新区 ................................................................................................ 公共管理应用场景和商业应用场景，牵引发展低空制造特色产业。支持张家口市围绕应急救援 、医疗救护 等 场景应用， 吸引更多资源、企业向产业聚集； 支持石家庄市、廊坊市聚焦物流配送新模式，重点打造大 型无 人机支线物流、无人机末端配送等应用场景； 支持衡水市、保定市围绕低空旅游、航空运动、私人飞 行和公 务航空等航空消费，大力推广轻型运动飞机、特效飞行器；支持雄安新区围绕城市无人机末端配送、 景，对成功实现落地转化的，每 个 项目按前期研发投入 30% 给予最高额度不超过 1000 万元奖励性后补助。 3 河北省 雄安新区 文件名称：雄安新区发布低 空经济 10 大应用场景 应用场景： 城市道路无人机巡检、数字道路基础设施巡检、水务无人机智能巡检、无人机水利自主巡检、燃气管网无人 机智能巡检 、无人机测绘 、低空无人机物流 、突发事件现场巡查搜救 、低空旅游

域的数字化服务模式 ，线上和线下融 合的 OTOTO 服务兴起 ，如各类视频网 站、外卖、 共享单车出现。 现代阶段（ 2010 年 - 至今） 大数据、 大模型、 人工智能开始出现、 推动了数字化服务向智能化、 精准化、 经营化方向发展 ，数据成为关键生产 要 素、企业的核心竞争力聚焦数据 ， 聚焦 数字化行为生命周期的客户经营。 初始阶段（ 在线支付、 标志数字化服务模式初步形成、 企 业主要利用互联网技术提高内部效 率 ，如 OA 、 ERP 等系统的应用。 2010 年代 --- 至今 变革发展阶段 云计算、 大数据、 大模型、 人工智能技术 引入、 企业通过数字化手段提升客户体验、 优化运营流程、 实现数据驱动智能决策， 如字节跳动利用数字技术精准定位短视频 和直播目标客群。 腾讯在社交媒体、 游戏、 数字化、智能化转型已成为大势所趋。 一带一路合作潜力巨 大 05 随着共建“ 一带一路 ”国际合作不 断推进， 中国与共建国家在服务 外 包领域的合作将不断加强 ，增 长潜 力巨大。特别是 RCEP 的保障 持续性 利好助推外包服务发展壮大。 行业 六大 发展 趋势 呈 现 出 六 大 发 展 特 点 01 04 二 现