电子行业AI+系列专题:边缘AI,大语言模型的终端部署,推动新一轮终端需求-20230531-国信证券-25页A100,因此完整的模型无法在终端上离线运行。 优化后大模型可在旗舰机型芯片上运行,AI 落地有望推动新一轮换机潮。 AI 部署本地化具有必要性,优势包括更低的延迟、更小的带宽、提高数据安 全、保护数据隐私、高可靠性等。完整的大模型仅参数权重就占满一张 80G 的 GPU,但是通过量化、知识蒸馏、剪枝等优化,大模型可以在手机本地实 现推理。高通团队使用骁龙 8 Gen2 部署 Stable Diffusion,实现本地运营 4)保护用户隐私:人工智能可以分析现实世界的信息,而无需将其暴露给人类, 大大增加了任何需要分析外貌、声音、医学图像或任何其他个人信息的隐私安全。 即使部分数据是出于培训目的而上传,也可以将其匿名化以保护用户身份。 5)高可靠性:去中心化和离线功能使边缘 AI 更加稳定,不受网络访问限制,这 是关键任务系统稳定运行的必要条件。 当边缘 AI 应用程序遇到它无法准确处理的数据时,它通常会将其上传到云端,以 便 AI 算法0 积分 | 25 页 | 2.20 MB | 7 月前3
经济开发区“智慧园区”可行性研究分析报告核心交换区为园区网络的心脏,承载数据高速交换运输的功能, 因此,需首先保障其高交换容量以及高可靠性。 本地机房部署高性能交换机作为核心交换机,与互联网边界防 火墙互联,作为需要供给公有云数据的唯一出口。本地机房部署各 个分支楼宇的楼宇独立汇聚交换机,向上与核心交换机双归互联, 保障网络高可靠性,便于运维管理。 (三)有线网络 ICT 基础设施:包括园区通信网、园区物联网、云数据中心、 十、主要软硬件选型原则 (一)系统配置原则 考虑到今后系统使用、管理和运行维护等情况,系统软硬件平 台建设需要遵循以下原则: (1)系统硬件平台体系结构考虑采用集中管理、集中处理模式; (2)系统硬件平台需要高可靠性和高可用性,充分考虑各种可能 出现的问题,通过采用多种手段来保证系统具有较强的容错、纠错 和故障恢复能力; (3)采用基于开放性标准的硬件设备,能够提供不同系统之间的 开放接口;支持第三方插件;10 积分 | 164 页 | 16.45 MB | 7 月前3
青岛市微电网发展研究——基于典型示范项目的调查消纳问题日益凸显,青岛平度市 2 青岛市微电网发展研究—基于典型示范项目的调查 2024 年分布式光伏列入接网消纳困难县 1。微电网能够促进分布式电源规模化接入,实 现对负荷多种能源形式的高可靠性供给,微电网建设市场需求迎来增长。第二,电力改 革的深化持续,工商业用户直接参与电力市场交易,企业微电网开启与大电网双向互动 模式,企业等负荷侧用户也逐渐意识到微电网在平滑基础用电负荷、实现电力系统安全0 积分 | 35 页 | 1.96 MB | 6 月前3
某银行数据中心项目可行性研究报告(174页 WORD)运转带来灾难性的影响。因此,可以说金融行业是对数据中心可靠性要求最高的行 业,几乎达到“零”容忍度。 随着全球范围内的数据中心业务的发展,对数据中心的可靠性提出了越来越高的要 求,高可靠性等级认证的取得,将给数据中心拥有者带来更多的商业机会。目前,比较权 威知名的数据中心认证主要有两种:Uptime Tier 认证及中国工信部国标认证等。本项 目数据中心园区为XX银行首个大型数据 年全面实现碳达峰之后,以数据中心为代表的数字基础设施的碳排放 仍将继续增长,俨然已成为能源消耗与碳排放的新增长点。 因此,本次可研和设计将重点强调数据中心的绿色节能措施设计。 6.2 设计原则 (1) 高可靠性 合理配置空调系统在线设备数量及容量,充分考虑系统稳定、在线维护、连续冷却 等要求,合理设置冗余备份,减少单点故障,保证空调系统为设备运行提供所需要的 环境要求,为数据中心机房设备的正常运行提供保障。10 积分 | 193 页 | 10.49 MB | 1 月前3
某区智慧旅游可行性研究报告(286页 WORD)造个性化、多元化、精品化旅游服务提供支持 7.5.2.3.2 系统设计 系统选择稳定、安全、可靠的 J2EE 技术平台。J2EE 体 系结构提供中间层集成框架用来满足低成本、高可用性、高可靠性 以及可扩展性的应用的需求。 系统采用插件式框架结构开发方式,即采用微核心的概念 将传统的系统开发直接分解为各个相对独立的插件。每一个插件负 责提供本身功能所需要的服务,以及对服务请求的响应。插件之间40 积分 | 408 页 | 7.76 MB | 1 月前3
共 5 条
- 1
