请务必阅读正文之后的免责声明及其项下所有内容 证券研究报告 | 2023年05月31日 超 配 电子 AI+系列专题报告 边缘 AI：大语言模型的终端部署，推动新一轮终端需求 核心观点 行业研究·行业专题 电子 超配·维持评级 证券分析师：胡剑 证券分析师：胡慧 021-60893306 021-60871321 hujian1@guosen.com.cn huhui2@guosen 研究表明，模型参数的 上涨需要配合等比例上升的优质数据集来达到最佳训练效果。因此，大模型 参数在十亿级以上发展并受限于优质数据集的增速是 AI 发展的必然趋势。 大模型增长挑战芯片算力和内存，无法实现完整端侧部署。大模型训练和推 理的三大瓶颈是算力、显存和通信，根据我们的测算，算力方面 GPT-3 训练 所需算力为 121528 TFLOPS，若 30 天内完成，需要 1558 颗 A100。内存角度， GPT-3 优化后大模型可在旗舰机型芯片上运行，AI 落地有望推动新一轮换机潮。 AI 部署本地化具有必要性，优势包括更低的延迟、更小的带宽、提高数据安 全、保护数据隐私、高可靠性等。完整的大模型仅参数权重就占满一张 80G 的 GPU，但是通过量化、知识蒸馏、剪枝等优化，大模型可以在手机本地实 现推理。高通团队使用骁龙 8 Gen2 部署 Stable Diffusion，实现本地运营 15 秒出图，证明了大模

长，更高的单体算力性能、更高的算力部署密度和更大的 算力集群规模成为新型数据中心的显著特征。大模型的快速迭代加速了更先进的算力芯片模组、更高带宽的大容 量显存和内存、更大规模的高速互连网络的部署，推动了大规模、高密度、高效协同的算力集群部署和发展。 3）智能运维：随着数据中心规模的扩展，智能化运维成为必然路径。依托智能监控设备、自动化管理软件 的普遍部署和应用，实现对数据中心设备的实时监 布局，促进东西部算 力高效互补和协同联动，引导通用数据中心、超算中心、智能计算中心、 边缘数据中心等合理梯次布局。（2023年2月） 国务院 《关于数字经济发展情况的报告》 提出适度超前部署数字基础设施建设，统筹布局绿色智能的数据与算 力基础设施，推进“东数西算”工程，建设完善全国一体化大数据中心体 系，加快国家绿色数据中心建设。（2022年10月） 国务院 《“十四五”数字经济发展规划》 化程度，为加快新产业高质量发展、建设现代化产业体系 提供坚实的技术支撑。 因此，强化标准引领，有助于推动绿色低碳、集约高效和智能化的新技术产业化进展，从而推动算力基础设 施创新产品形态大规模部署，进而促进全产业链绿色低碳发展，助力双碳目标实现成为趋势和必然。 第 10 页, 共 63 页 1

。据统计，截至 2024 年，中国液冷数据中心市场规模已突破 150 亿元大关，年均增长率维持 在 35%以上。与此同时，液冷技术的标准化进程加速推进，相关组件的成本显 著下降，为大规模商业化部署奠定了坚实基础。值得关注的是，在算力需求持 续增长的同时，芯片技术的快速发展带来了新的散热挑战：现代 CPU 和 GPU 2 的热设计功耗（TDP）不断提升，传统风冷数据中心在应对高密度、高功耗计 产品与架构已不能完全满足新的 AI 集群 的需求。随着计算密度的提升，采用低延迟、高带宽互联架构的 AI 集群因其性 能优势而被广泛采用。然而，在液冷整机柜的设计与部署过程中，不同厂家的 技术方案缺乏统一标准，这给终端用户的系统选型、设备部署及运维管理带来 了诸多挑战。 在技术发展层面，尽管面临诸多挑战，业界已在 OAI（开放加速器接口） 和 UBB（OCP 通用基板）等标准化方面取得了显著进展。特别是超节点整机 AI 加速器模组的智能计算服务器，导致机柜上架率急剧下滑。 实践表明，在单柜功率为 15kW 的应用场景中，液冷服务器的部署投资回报率（ROI）与 传统风冷服务器持平；而在单柜功率 40-50kW 的更高功率应用中，液冷服务器的部署资 本支出（Capex）已趋近于风冷部署方式。这一趋势为液冷技术的推广应用提供了有力的经 济支撑。 政策层面，自 2020 年起，国家大力推进新基建政策，积极鼓励建设高能效数据中心。

站稳脚跟的过程中面临着诸多考验。现在我们正站在5G发 展时期的中点，而6G预期将在2030年问世⸺这可谓是真正意义上的中场阶段。 5G已向人们证明，它可以带来真正的变革。随着5G独立组网（SA）部署的不断成长，以及5G-Ad- vanced的横空出世，电信行业已经为满足行业需求而交付真正的5G能力做好了准备。 中场阶段意味着前面还有很长的路要走。尽管做好了充分的准备与证明工作，我们的行业仍然面临着 2021 2022 2023 2024 61 140 200 243 300 348 14 54 78 95 122 162 5 19 37 51 64 4 5G的商用发布数量 商用部署在2025年将得到加速 采取行动的时间到了 测试的重点展示出5G SA与 5G-Advanced所拥有的潜力 让我们分解一下关键 的测试类别，以便更 好地了解 5G 服务的 未来发展。 和恢复。通过 上述这些验证与测试，人们相信5G SA可以处理复杂的现实需求 并提供服务的连续性。 北美的一家大型多频道视频节目发行商（MVPD）希望通 过验证5G云原生架构的鲁棒性来对其预先部署的5G SA核 心网络的弹性进行严格测试。思博伦运用其Landslide CNF弹性测试解决方案进行了基于混沌的测试。这一解决 方案引入了破坏性网络故障场景（如存储连接丢失或基础 设施资源

.........................................................................................70 5.5 模型部署与监控................................................................................................ 持、业务流程优化和客户体验提升的核心能力。该项目将基于先进 的人工智能技术，结合企业现有的 IT 架构和业务需求，设计并实 施一套全面的 AI 大模型底座解决方案。该底座不仅能够支持多种 AI 模型的训练和部署，还能实现模型的高效管理、监控和迭代，确 保其在企业实际业务场景中的持续应用和价值创造。 在项目初期，我们将重点分析企业当前的数字化水平和业务痛 点，明确 AI 大模型的应用场景和预期目标。例如，在客户服务领 ERP、CRM 系统）和非结构化数据（如文本、图像、视 频），形成统一的数据平台，为 AI 模型提供丰富的数据源。 3. 模型管理平台：开发一套完整的模型生命周期管理工具，涵盖 模型的开发、训练、部署、监控和优化，确保模型的高效迭代 和持续改进。 4. 安全与合规机制：在项目设计过程中，充分考虑数据隐私和安 全问题，遵循相关法律法规，确保 AI 应用的安全性和合规 性。 项目实施将分为

............................... 33 图 15 数据服务云化部署比例................................................................................. 34 图 16 智能计算服务云化部署比例.............................................. 人工智能。2023 年 12 月，欧盟委员会批准一项 12 亿欧元的国家援 助计划“欧洲共同利益重要计划——下一代云基础设施和服务”，以 支持欧洲先进云计算和边缘计算技术的研究、开发和首次工业部署。 此外，欧盟还在持续关注云主权。2023 年 5 月，欧洲网络安全认证 小组对新的《欧盟云服务网络安全认证计划草案》展开审查，要求 云厂商提供的云服务必须在欧盟运营和维护，所有云服务的客户数 张和智能化发展。2023 年 9 月，韩国提出“制定第五个科学技术基 本规划的方向（2023-2027 年）”，并发布“第三个云计算基本计划”， 鼓励公共部门优先部署私有云，促进公共部门的数字化创新，加快 软件行业的云部署进程，加强云产业竞争力，打造云产业永续发展 的生态圈。2024 年 2 月，韩国科技信息通信部宣布，将投资 9150 万美元来推动本国云计算产业智能化发展。2024 年

Intel Confidential Computing Zoo: Intel机密计算开源解决方案 114 115 121 126 133 部署TensorFlow Serving在线推理服务 部署TensorFlow横向联邦学习 部署隐私集合求交方案 PPML: 端到端隐私保护机器学习解决方案 01 认识龙蜥 龙蜥社区（ OpenAnolis ）成立于 2020 年 9 月 建的方式，为业界提供开源和标准化的机密计算技术以及安 全架构，推动云原生场景下机密计算技术的发展。工作组将围绕下述核心项目构建云原生机密计算开源技术栈 ，降低机密计算的使用门槛，简化机密计算在云上的部署和应用步骤，拓展使用场景及方案。 云原生机密计算SIG的愿景是： 1）构建安全、易用的机密计算技术栈 2）适配各种常见机密计算硬件平台 3）打造典型机密计算产品和应用案例 项目介绍 海光 参考案例，为用户提供相应的容器镜像，实现敏捷部署。 • 主页：https://cczoo.readthedocs.io • 代码库：https://github.com/intel/confidential-computing-zoo Intel HE Toolkit Intel HE Toolkit 旨在为社区和行业提供一个用于实验、开发和部署同态加密应用的平台。目前 Intel HE

同演进，提出“连接-计算-安全”三大技术方向，系统规划技术演进 路径：通过 5G/5G-A 蜂窝移动通信网络、C-V2X 直连通信网络、卫 星通信网络及基础设施数据传输网络，构建全天候全域覆盖的高效连 接通道；依托分级部署的算力基础设施与算网协同服务，打造弹性智 能的计算能力底座；以纵深防御机制贯穿全链路，确保数据可信与系 统安全。三者有机协同，根据车辆应用场景的差异化需求，合理选择 连接通道、分配智能计算能力与采取安全防护策略，实现从基础安全 行车安全性，降低交通事故发生率。卫星通信网络依托卫星星座部署 的全球覆盖通信系统，是地面通信网络的有效补充，可在偏远山区、 沙漠等地面网络覆盖薄弱区域提供广域、连续、稳定的通信保障，实 现在自然灾害、交通事故等紧急情况下的应急通信、全球范围内的远 程车辆追踪等特殊应用场景，为车辆提供无死角的通信保障。 基础设施数据传输网络是通过部署在道路上光纤等固定通信设 施，构建高效的数据传输通道。该网络将路侧感知设备采集的交通信 服务的关键基础能力。全球汽车产业与信息通信技术的深度融合正进 入新阶段，国际组织协同加速推进，主要国家和地区持续深化战略布 局，我国凭借汽车制造与信息通信产业链的协同优势，已在 5G-V2X 融合应用、路侧基础设施部署等领域形成全球领先态势。 国际组织系统性加速推进汽车网联通信技术的全球化协同与落 3 地实施，为产业生态构建提供核心支撑。国际电信联盟（ITU）于 2024 年通过首个针对车联网新兴领域的独立决议，全面支持车联网信息通

2025金融业新一代数据中心创新发展案例集 数据中心智能化与云化升级 财信人寿：云数据中心建设项目 财信吉祥人寿保险股份有限公司（以下简称“财信人寿”）所有信息系统采用总公司集中建设的方式，云数据 中心投产上线前，均集中部署在 2012 年建成投产的老数据中心，也是当时公司唯一的生产中心，老数据中心位于居 民区，在机房电力供应、机房环境设计标准、机房设备使用年限等方面存在缺陷和不足，严重制约业务规模的增长。 经过公司上下的仔细研讨，2022 金科创新社 金科创新社 金科创新社 金科创新社 金科创新社 金科创新社 金科创新 02 提高 IT 资源利用效率、管理水平、服务保障能力。 信息系统结合业务场景可灵活选择适合的技术架构和资源部署方式，以便更高效、稳定地实现业务目标，实现 IT 统一标准、服务、管理的要求。 基于云数据中心 IaaS 平台上，项目也同时构建了云 PaaS 平台服务能力，包括 Devops、微服务开发框架、应 根据两地三中心建设规划，建设同城两个数据中心的应用级灾备能力。 3. 灾备能力 四、项目成效 借助云计算、容器等新技术和最佳实践，采用自动化和标准化的流程和工具，优化资源管理流程和资源库，实 现了 IT 资源的快速部署，提高了云资源交付服务的速度、质量和效率，从而缩短 IT 服务的交付周期，项目资源交付 周期从 2 周下降至 2 小时，不到原先时长的 1%。 1. 资源交付周期变短 金科创新社 金科创新社 金科创新社

....................................................................................89 5.2.2 应用划分及部署方式.....................................................................................93 5.2.3 数字化企业集约化管控 高度的技术灵敏度，数字科技技术飞速发展，新技术不断进化演变， 4 企业数字化转型及企业数字化平台建设方案 企业必须保持不断吸收、学习与成长，顺势而变，通过使用 5G 技术、 人工智能、物联网等一系列强大的新兴技术，快速部署并不断迭代， 企业的数字化转型之路才能进入新的阶段。此外，在企业战略制定、 内部流程化管理、员工培训等重要数字化思维转型阶段，企业要充 分利用数字科技特点、灌输数字化转型的理念，加强内部数字化转 XXXX 公司数字智慧化企业建设提供强有力的技术支撑。 XXXX 公司工业互联网平台总体技术架构规划如下图所示： XXXX 公司信息技术支撑平台技术架构 平台采用私有云模式进行架构，云边协同模式进行部署。在 XXXX 公司本部建设中心云平台，中心云平台由 IAAS 云平台、PAAS 云平台、SAAS 应用集群、移动应用平台、物联网平台、大数据和 21 企业数字化转型及企业数字化平台建设方案