电子行业AI+系列专题:边缘AI,大语言模型的终端部署,推动新一轮终端需求-20230531-国信证券-25页部署本地化具有必要性,优势包括更低的延迟、更小的带宽、提高数据安 全、保护数据隐私、高可靠性等。完整的大模型仅参数权重就占满一张 80G 的 GPU,但是通过量化、知识蒸馏、剪枝等优化,大模型可以在手机本地实 现推理。高通团队使用骁龙 8 Gen2 部署 Stable Diffusion,实现本地运营 15 秒出图,证明了大模型本地化运行的可能,也体现出目前手机芯片的局限 性。根据 IDC 数据,1Q23 全球手机销量中主处理器频率超过 作为验证,通过训练一个预测的计算最优模型 Chinchilla 来检验这个假设,该模 型使用与 Gopher 使用相同的 FLOTs,但具有 70B 个参数和 4 倍多的数据,最终在 大量下游评估任务中,Chinchilla 表现显着优于 Gopher,且其缩小的模型尺寸大 大降低了推理成本,并极大地促进了下游在较小硬件上的使用。 图6:2022 年最大的五个 transfomer 模型条件 图7:各模型位于 话数据来自公共论坛;12.5% C4 数据;12.5%的代码文档来自与编程相关的网站; 12.5%维基百科;6.25%英文网页文档;6.25%的非英语网络文档,数据集中的单词 总数为 1.56T,而 OpenAI 使用了 45T 数据。未来如何获得高质量的训练集始终是 各家大厂的首要竞争领域。 图8:LaMDA 模型训练数据来源 资料来源:谷歌,国信证券经济研究所整理 请务必阅读正文之后的免责声明及其项下所有内容0 积分 | 25 页 | 2.20 MB | 6 月前3
电子行业深度报告:DeepSeek推动模型平权,关注AI终端及算力领域等 开 源 模 型 , 并 在 性 能 上 和 GPT-4o 以 及 Claude-3.5-Sonnet不分伯仲,训练成本约为558万美元。1月20日, DeepSeek开源R1模型,后训练阶段大规模使用了强化学习技术,在仅有 极少标注数据的情况下,性能比肩OpenAI o1正式版,不仅极大提升了 模型推理能力,也大幅降低了训练成本。同时,DeepSeek-R1蒸馏了6个 小模型,其中32B和70B模型在多项能力上实现对标OpenAI 等开源模型,并在性能上和 GPT-4o 以及 Claude-3.5-Sonnet 不分伯仲,训练成本仅约为 558 万美元。1 月 20 日,DeepSeek 开源 R1 模型,后训练阶段大规模使用了强化学习技术,在仅有极少标注数据的情况下, 极大提升了模型推理能力。在数学、代码、自然语言推理等任务上,性能比肩 OpenAI o1 正式版。 图 1:DeepSeek R1 性能比肩 OpenAI high 两大版本上 线 ChatGPT,其中 o3 mini 的复杂推理、对话能力显著提升,在科学、数学、编程等领 域性能优秀,且保持了 o1 mini 的低成本和低延迟,并可与联网搜索功能搭配使用。谷 歌则在 2 月 6 日推出 Gemini 2.0 家族,包括 Gemini 2.0 Pro 实验版本、Gemini 2.0 Flash、 Gemini 2.0 Flash-Lite,并且还在0 积分 | 23 页 | 2.65 MB | 6 月前3
经济开发区“智慧园区”可行性研究分析报告机系统、门禁管理系统、紧急报警、消防报警系统等多种安防的硬 件子系统,对各子系统的数据同步、实时告警上报到指挥中心,在 监控大屏上通过 GIS 地图或三维地图展示告警信息、告警设备、告 警位置,配合使用对讲设备,智能终端等多种手段对告警事件进行 及时处理。 深化企业定级分类管理,推行企业隐患自查自报制度,构建安 全风险分级管控和隐患排查治理双重预防性工作机制,制定绩效评 估办法,提高监管工 年保存考虑。按照 500T 数据考虑。 (三)传输量估算 本项目建设涉及各应用平台数据传输主要包含平台用户、音视 频呼叫以及视频监控。 平台用户主要是各业务应用系统用户使用数据,每个平台按 100 用户同时使用,每个用户使用速率按 30Kbps,所需速率大约 3Mbps。 移动端音视频呼叫,一般移动端分辨率为 720p,所需速率大约 17 经济开发区“智慧园区”项目项目建议书 20—30Mbps,按 区建设的智慧化基础。 前沿:利用最先进的物联网、大数据、人工智能技术。 前列:打造成自治区标杆、特色的智慧园区。 管用:全面提升园区智慧化水平,对园区的能耗、环保、安全、 经济等有效管理。 好用:应用智能化、使用便捷化;数据全汇聚、业务全互通。 实用:设计落地、实施落地、应用落地。 二、总体目标与分期目标 本次准格尔经济开发区智慧园区的建设,以智慧决策大脑为核 心,打造数据使能、基础设施两大基础平台,建设经济运行监测系10 积分 | 164 页 | 16.45 MB | 5 月前3
智慧停车发展及智慧停车系统白皮书个。一些城市迅猛增长的汽车保有量引发城 市交通拥堵、商业区及居民区停车难等问题,影响正常的交通道路通行和城市建设。 其中,停车资源不足便是主要问题之一。在停车设施建设的增长速度无法匹配停车需 求的情况下,如何改善现有停车设施的使用效率,提供良好的停车体验,缓解停车难 导致的交通拥堵问题,成为城市交通发展和提升新型城镇化建设质量的重要环节。 近几年,国家政府相继出台了多项政策,鼓励加快基础设施建设。2021 年中央 经 置的不同,城市停车场地 可分为路内停车位和路外停车场。路内停车位指在道路红线以内划设的供机动车或 (和)非机动车停放的停车空间。路外停车场主要包括建筑物配建停车场和城市公共 停车场,面向建筑物使用者和公众提供车辆停放。 图 1-1 路内停车位示意图 图 1-2 路外停车场示意图 由于占用空间的性质不同,路内停车位和路外停车场的功能、运营模式,所需技 术和管理政策等方面存在很 车位主要是解决停车位供给不足的问题,具有空间开放性和自行化的特征,在管理上, 智慧停车发展及智慧停车系统白皮书 2 相对路外停车场,在难度和强度都明显加大。 因此,智慧停车在路外停车场方面主要解决停车便利性和车位资源使用最大化 的问题;而针对路内停车,则是通过技术手段监控停车位停车状态、改善停车管理效 能,实现动静态交通的协同优化。 1.1.2 发展智慧停车的价值 近年来,随着国民经济增长,我国居民消费水平日益增高,对汽车产品的需求持10 积分 | 43 页 | 1.73 MB | 5 月前3
电子行业:AI大模型需要什么样的硬件?-20240621-华泰证券-40页智能创作、文生图等企业的基本办公需求, 是大模型时代生产力工具的主要支点。我们认为 2025 年 AI PC 渗透率有望大幅提升。 终端如何解决大模型痛点:高频使用(AI 手机)。手机是人们日常生活最高的交互终端,具 有普及率高、使用频率高,考虑终端算力、存力以及客户应用需求等因素,手机已经成为 AI 大模型在 C 端落地的重要设备。去年底至今,随着三星 Galaxy S24、Google Pixel Agent原生生态 免责声明和披露以及分析师声明是报告的一部分,请务必一起阅读。 8 电子 AI 手机:AI 大模型驱动软硬件升级 手机是人们日常生活较高的交互终端,具有普及率高、使用频率高的特点,考虑终端算力、 存力以及客户应用需求等因素,手机已经成为 AI 大模型在 C 端落地的重要设备。去年底至 今,随着三星 Galaxy S24、Google Pixel 8 等重要产品上市,以及苹果 年 6 月举行的苹果 WWDC 2024 大会推出全新个人化智能系统 Apple Intelligence, 由苹果端侧大模型、云端大模型、ChatGPT 共同组成,算力足够下依赖终端,复杂场景则 使用私密云计算或 ChatGPT,能够 1)增强 Siri 理解能力,配备多轮对话、总结信息、屏 幕内容感知、应用智能交互等能力,2)提供邮件智能回复、通知整理,备忘录和通话录音 /撰写/摘要等功能,30 积分 | 40 页 | 2.60 MB | 6 月前3
某区智慧旅游可行性研究报告(286页 WORD)安全防护系统、过夜游奖励认证系统、无线会议系统等项目建设, 智慧旅游系统集成度全省第一;率先实现 3A 级以上旅游景区视频监 控联网,景区建成客流统计分析系统并开展最大承载量监测。率先 建成旅游监测指挥调度中心并投入使用。 智慧旅游建设使龙岩旅游更好地适应经济发展新常态,对内练 好内功,对外加强营销,持续打响“清新福建•欢乐龙岩”品牌,扎实 推进旅游产业转型升级和提质增效。特别是在旅游安全工作方面, 充分运 服务平台和示范景区“智慧景区”等涵盖的应用系统。 第五层是展示层,展示层解决人机交互、信息获取等问题,通 过电脑、手机、平板、触摸屏、LED 屏等多种终端,提供不同的人 机交互方式和用户体验。 第六层是用户层,主要是相关的使用用户,主要包含 XX 区旅 游局、区内示范景区、涉旅企业及市民和游客。 7.3 建设原则和策略 全面对接,统筹建设 全面对接 XX 市“智慧旅游”系统顶层设计,对 XX 区“智慧旅游” 游项目引领 XX 区旅游业大发展。 开放合作,安全高效 加强跨行业、跨产业、跨行政区划的智慧旅游合作,扩大 XX 区旅游云数据中心的对外开放,调动各方面参与建设的积极性,提 76 高使用效益。同时重视信息系统运行安全及用户隐私保障。 7.4 功能设计和实现思路 XX 市 XX 区“智慧旅游”建设是在云计算、大数据等先进技术基 础上的旅游行业应用,项目建设将依托云计算平台,实现旅游服务40 积分 | 408 页 | 7.76 MB | 14 天前3
电子行业深度报告:AI系列深度,AI+降本增效拓宽应用,硬件端落地场景丰富-20230712-东吴证券-28页百花齐放的 景象。国产半导体产业已经加速了“创新车轮”,在端侧围绕计算、感 知、存储等关键环节作充足准备,以迎接人工智能新机遇。 ◼ AI 拓宽 C 端应用场景,推动创新需求。 C 端更注重用户体验和使用场 景的匹配,随着轻量型大模型的发布,AI 应用有望从 PC 延伸到手机、 IOT 等,赋能各类智能终端。举例来看,1、AI 的赋能有望提升 XR 交 互体验和内容生态繁荣,XR 产业有望迎来新发展阶段。2、手机需求放 迭代更新,人工智能掀起科技潮 GPT 升级至四代,模型能力高速提升。ChatGPT 是由 OpenAI 开发的自然语言生成 模型,采用 Transformer 神经网络架构(又称 GPT-3.5 架构),基于大量的语料库使用指 示学习和人工反馈的强化学习(RLHF)来指导模型训练。模型可理解并生成对各种主 题的类似人类的响应,是 AIGC 技术进展的成果。2023 年 3 月 15 日,OpenAI 正式官宣 了多模态大模型 图像内容,可接受的文字输入长度也增加到 3.2 万 token,在不同语言情景和内部对抗性 真实性评估的表现都显著优于 GPT-3.5,在各种专业和学术基准上已经表现出人类水平, 为用户提供变革性的使用体验。 图1:GPT-4 和 GPT-3.5 的考试表现 图2:OpenAI 网站 12-2 月访问量 数据来源:OpenAI,东吴证券研究所 数据来源:Similarweb、东吴证券研究所0 积分 | 28 页 | 2.68 MB | 6 月前3
星图研究院:2025年视觉IoT消费市场分析报告得更加激烈。 低功耗 AOV 出于无电无网的市场需求,低功耗产品成为行业重要的发展方向,而低功耗产品核心是功耗和稳定性,行业技术的发展更多需要 芯片厂商来引领,低功耗发展趋势就是与常电产品同样的使用体验。而以往低功耗产品相比较常电产品来说存在无法24小时录 像、探测距离短、漏报误报等痛点,于是AOV因势而生。 AI 大模型 AI的趋势所有人都不怀疑,在IPC硬件的价格竞争愈演愈烈的时候,增 对黑光产 品需求会不断提升,并且厂商们也再推动黑光普惠的方案。 4G 免流量 免去布网线布电线,让产品使用更加便捷是产品发展的重要方向, 4G产品和低功耗产品天然适配, 4G低功耗产品出货大涨是市 场需求决定的,随着4G资费的不断下降,用户对4G低功耗产品的认识越来越多,使用成本下降了使用难度也降低了,于是市场 需求得到快速增长。 之前的4G产品,不少厂商采用免费送产品靠流量充值模式,消费者体 和双向通话等功能,受到了用户 的广泛欢迎,并入选了《时代》杂志的“Top 10 Gadgets of 2014”榜单 1。 RingTM Video Doorbell 是世界上首个自带电池,并使用 Wi-Fi 和 HD 视频的门铃,访客到达时,屋主收到通知,屋主可以在世界上任何地方通过 iOS 或 安卓应用与访客进行视频对话。 2016 年 拓阔科技发布了基于海思 LiteOS 第一款低功耗开发板10 积分 | 50 页 | 29.10 MB | 5 月前3
电子AI+系列专题:DeepSeek重塑开源大模型生态,AI应用爆发持续推升算力需求万美元,对比 GPT-4o 等模型的训练成本 约为 1 亿美元。 l 2025 年 1 月, DeepSeek-R1 发布,性能对标 OpenAI-o1 正式版。 DeepSeek-R1 在后训练阶段大规模使用了强化学习技术,在仅有极少标注数据的情况下, 极大提 升了模型推理能力。在数学、代码、自然语言推理等任务上,性能比肩 OpenAI-o1 正式版。同时 DeepSeek 开源 R1 推理模型,允许所有人在遵循 模型生成速度提升至 3 倍。通过算法和工程上的创新, DeepSeek-V3 的生成吐字速度从 20TPS 大幅提高至 60TPS ,相比 V2.5 模型实现了 3 倍的提 升,能够 为用户带来更加迅速流畅的使用体验。 l DeepSeek-V3 模型具有更优的模型性能 / 价格比例。随着性能更强、速度更快的 DeepSeek-V3 更新上线,模型 API 服务定价调整为每百万输入 tokens 0.5 元 官网,国信证券经济研究所 整理 l 2025 年 1 月 20 日, DeepSeek-R1 正式发布,并同步开源模型权重,性能对齐 OpenAI-o1 正式版。 DeepSeek-R1 在后训练阶段大规模使用了强化学习技术,在 仅有极少 标注数据的情况下,极大提升了模型推理能力。在数学、代码、自然语言推理等任务上,性能比肩 OpenAI-o1 正式版。 l DeepSeek-R1 遵循 MIT License0 积分 | 38 页 | 1.95 MB | 6 月前3
电子AI+系列专题:复盘英伟达的AI发展之路langboat.com/portal/mengzi-model 百度 文心一言 3 月 16 日 企业用户内测 https://yiyan.baidu.com/ 达观数据 曹植 3 月 21 日 可申请使用 http://www.datagrand.com/products/aigc/ 清华大学 ChatGLB-6B 3 月 28 日 已开源 https://github.com/THUDM/ChatGLM-6B 换 代 持 续 提 升 模 型 及 参 数 规 模 , 当时 GPT-1 参数量只有 1.17 亿个。 l2020 年, OpenAI 发布 GPT-3 预训练模型,参数量为 1750 亿个,使用 1000 亿个词汇的 语料库 进行训练,在文本分析、机器翻译、机器写作等自然语言处理应用领域表现出色。 l2022 年 12 月, OpenAI 发布基于 GPT-3.5 的聊天机器人模型 ChatGPT 在此过程中,其训练者 Alex Krizhevsky 创新性地使用英伟达 GPU 成功训练了性能有突破性 提 升 的 深 度 神 经 网 络 AlexNet , 从 而 开 启 了 新 的 人 工智能时代。英伟达 GPU 伴随着深度 学习 模型训练和推理所需要的大量算力成为了人工智能时代的新基础设施。 神经网络 AlexNet 使用 GPU 训练开启 AI 时代, AI 芯片是算力的重 要支撑0 积分 | 30 页 | 1.27 MB | 6 月前3
共 24 条
- 1
- 2
- 3
