电子行业AI+系列专题:边缘AI,大语言模型的终端部署,推动新一轮终端需求-20230531-国信证券-25页因此,大模型 参数在十亿级以上发展并受限于优质数据集的增速是 AI 发展的必然趋势。 大模型增长挑战芯片算力和内存,无法实现完整端侧部署。大模型训练和推 理的三大瓶颈是算力、显存和通信,根据我们的测算,算力方面 GPT-3 训练 所需算力为 121528 TFLOPS,若 30 天内完成,需要 1558 颗 A100。内存角度, GPT-3 训练至少需要 3.2T 内存,至少 44 张 A100,推理任务则主要受显存限 8 表2: 大语言模型的计算 .................................................................... 9 表3: 大预言模型算力测算 ................................................................. 10 请务必阅读正文之后的免责声明及其项下所有内容 证券研究报告 图12:算力计算公式 图13:近年推出的大预言模型有效算力比率 资料来源:NVIDIA,国信证券经济研究所整理 资料来源:NVIDIA,国信证券经济研究所整理 表3:大预言模型算力测算 A100 PCle H100 PCle 训练阶段算力需求测算 Tensor Float 32(TF32) 156TFLOPS 756TFLOPS 有效算力 78TFLOPS 378TFLOPS GPT-3 训练所需运算次数0 积分 | 25 页 | 2.20 MB | 7 月前3
电子AI+系列专题:复盘英伟达的AI发展之路CUDA 文档,国信证券经济研究所整 理 资料来源:英伟达 CUDA 文档,国信证券经济研究所整 理 资料来源: CSDN ,国信证券经济研究所整 理 l 《 AI 大语言模型的原理、演进及算力测算》 l 训练阶段:考虑采用精度为 32 位的单精度浮点数数据进行训练和推理。 以 A100 PC le 芯片为例( H100 PC le 芯片同理), GPT-3 训练所需 运算次 数为:样本 105.95 亿美元 53.2 亿美元 AI 服务器相关 DGX A100 H100 单个服务器对应 GPU 数量 8 8 所需服务器数量 8.8 万台 1.8 万台 表:训练阶段算力需求测算过程及结论 GPU 相关 A100 PCl H100 PCl Tensor Float 32(TF32) 156TFLOPS 756TFLOPS 有效算力 78TFLOPS 378TFLOPS H100 单个服务器对应 GPU 数量 8 8 所需服务器数量 195 台 40 台 请务必阅读正文之后的免责声明及其项下所有内容 AI 大语言模型对于 GPU 算力需求测算(以 GPT-3 为 例) 表:推理阶段算力需求测算过程及结论 资料来源:英伟达官网,国信证券经济研究所整理及预测 资料来源:英伟达官网,国信证券经济研究所整理及预测 请务必阅读正文之后的免责声明及其项下所有内容 二、英伟达的0 积分 | 30 页 | 1.27 MB | 7 月前3
金融行业银行客户经理基于DeepSeek构建AI Agent智能体应用方案(237页 WORD)采用客户画像分层机制,差异化生成分析内容: 保守型客户:重点推送国债收益率变动、货币基金七日年化对 比 进取型客户:附带技术面分析(如 RSI 超买信号)的行业轮动 建议 企业客户:增加外汇对冲方案测算(使用蒙特卡洛模拟压力测 试) 4. 闭环反馈机制 每次推送后记录客户交互行为(点击率、停留时长),通过强 化学习优化推送时机。实验数据显示,在美股交易时段(北京 时间 21:00-4:00)推送的打开率比非交易时段高 人信息保护法》动态合规),并定期评估客户满意度以避免技术替 代引发的品牌风险。 9.1 开发与部署成本 开发与部署成本是银行客户经理智能体应用方案实施的关键考 量因素,需从技术投入、人力资源、基础设施及运维四个维度进行 精细化测算。以下为具体成本构成分析: 1. 技术研发成本 大模型定制开发:基于 DeepSeek 基础模型进行垂直领域微 调,需支付 API 调用费用及定制训练成本。按 10 万次/日的交 互量估算,年化 采用渐进式替代策略,优先部署标准化业务场景(如产品查 询、账单答疑) 与 DeepSeek 签订长期合作协议可获得 15%-20%的 API 用量 折扣 复用银行现有 OCR、语音识别等基础设施降低集成成本 注:以上测算基于中型商业银行(零售客户 500 万+)的典型 场景,实际成本需根据具体业务规模及技术栈选型调整,误差范围 ±15%。 9.1.1 技术投入 在技术投入方面,部署基于 DeepSeek 的银行客户经理智能体10 积分 | 247 页 | 2.05 MB | 1 月前3
某银行数据中心项目可行性研究报告(174页 WORD)26 1.5 本项目需求分析 26 2 本项目定位 27 2.1 总体定位 27 2.2 能级定位 27 3 本项目建设规模 28 3.1 测算依据 28 3.2 数据中心需求 29 3.3 配套用房需求 29 四、场址选择 30 1 选址原则 30 2 选址位置及地块情况 30 可提供 10万台服务器的 算力。根据《XX银行算力规划报告》,当前算力规模与结构较为薄弱,为满足快速增长 的业务系统部署需求以及数据中台、生态云、分布式改造等建设需求,按照年均 40%的 增幅测算,预计 2031 年总算力达到 30 万台服务器,与XX银行当前算力部署还有较大差 距,亟需启动新算力节点建设。 本项目新建的贵州算力节点,计划提供 20 万台服务器算力,承接容灾、非实时数 据中心建设在符合国标 A 级标准的 基础上,满足数据中心等级认证国际标准 Uptime Tier III,关键指标参数参考 Uptime Tier IV 的标准。 3 本项目建设规模 3.1 测算依据 根据《数据中心设计规范》GB50174-2017,数据中心的组成应根据系统运行特点 及设备具体要求确定,宜由主机房、辅助区、支持区、行政管理区等功能区组成。 区域 主要建设内容 主机房10 积分 | 193 页 | 10.49 MB | 1 月前3
电子行业深度报告:DeepSeek推动模型平权,关注AI终端及算力领域表态积极。而国产 终端如雷鸟、闪极等品牌亦积极推出相关产品,渗透率有望快速提升。 据Wellsenn XR预测,2029年销量有望达到5,500万副,渗透率约3.48%。 若按照一副1,500元进行测算,2029年AI眼镜市场规模约为825亿元。 算力需求仍将加大。近期微软、亚马逊、谷歌、Meta披露最新业绩,四 大科技巨头Q4资本开支合计同比大幅增长77%,主要支持云计算、AI等 基础设施 眼镜提供了较大的发展空间,据 Wellsenn XR 预测,AI 眼镜从 2025 年开始将会向传统眼镜快速渗透,预计 2029 年销量有望达到 5,500 万副,渗透率约 3.48%。若按照一副 1,500 元进行测算,2029 年 AI 眼镜市场规模约为 825 亿元。 图 35:全球近视眼镜、太阳眼镜销售量 电子行业深度报告 18 请务必阅读末页声明。 数据来源:《AI智能眼镜白皮书》,东莞证券研究所0 积分 | 23 页 | 2.65 MB | 7 月前3
电子行业深度报告:AI系列深度,AI+降本增效拓宽应用,硬件端落地场景丰富-20230712-东吴证券-28页分析后的结果。传统安防产业在产品、 技术与应用等多维度实现了更深层次的进化与变革。2、人工智能亦将 更加广泛地应用到智能制造行业中,机器视觉检测是 AI 技术在智能制 造中最好的落脚点之一,AI 图像增强技术、AI 缺陷检测算法等技术的 发展有望提升机器检测效率,从而逐步代替人工目检。 ◼ 投资建议: AI 产业链条长,各环节机遇频现,AI 应用的发展将是推动 产业链上下游共同繁荣的动力,相关标的梳理如下:1、终端品牌:传音 : AI 图像增强技术等技术可以通过人工智能机器学习算法预处理图片,提升工业相 机拍摄照片或扫描出图像的对比度,降低图像噪点,增强图像边缘等,提升后续进一步 检测的准确度。 AI 缺陷检测算法则可针对消费电子类产品常见的压伤、凹凸、异物等各种缺陷完 成大量模型预训练。在具体项目中调用视觉检测平台时则可通过小样本训练检测技术, 使用 50-100 张图像数据构建适配项目需求的检测参数,具有灵活性的特点,可以快速部0 积分 | 28 页 | 2.68 MB | 7 月前3
经济开发区“智慧园区”可行性研究分析报告准格尔园区城市政务管理流程 三、信息量分析与预测 (一)计算能力测算 目前准格尔经济开发区内设 11 个部门,共有干部职工 355 人, 常住人口近 7 万人,远景规划 10 万人,园区累计引进企业 96 家。 依据全国已经建成智慧园区的项目经验,所涉及的智慧园区相关系 统内存、CPU 等相应的主机性能经过规划测算如下: 1、系统注册用户数为 2500 人(U1); 2、忙时集中并发系数为 加起来就得出软件项目的总工作量。该方法适用于立项阶段的工作 量估算。 本项目工作量评估中,将各功能点作为独立的任务,根据各子 任务的行业成熟度及实现复杂度考虑工程师、高级工程师、架构师 配比,在此基础上测算开发、测试时长等,各子任务工作量(人月 数)均以历史同类项目为参考,从而保证累加后的总体工作量的准 确性。 依据本项目的复杂情况和所需工程是配比,月人工费用定为人 均 15000 元。 3、软硬件购置价格10 积分 | 164 页 | 16.45 MB | 7 月前3
践行可持续发展之路-2025上海ESG发展报告-上海高级金融学院份制银行中率先实现全栈国产化算力平台+DeepSeek 大模型的金融应用,赋能智能问答、指标问答、财务 分析、报告写作等多个应用场景。 中国太保作为“沪惠保”项目主承保公司,承担 了项目产品测算、方案设计、运维落地、理赔服务等 工作,还牵头组织市场宣传销售推动,持续开展产品 创新、模式创新、服务创新。����年,“沪惠保”参 保人数���.�万人,连续�年保持全国城市型定制普惠 保 期,为全国首个且唯一的中央对手清算标准化碳金融衍 生品,用于调节减排成本收益并管理风险。在碳金融支 持工具方面,推出碳中和股票指数及ETF基金⸺中证 上海环交所碳中和指数。首次应用上海环交所碳中和评 价模型,通过测算行业减排潜力、分析企业碳排放关键 指标,形成低碳评价体系。目前正积极推进碳保险、碳 基金等创新金融产品为低碳转型企业拓宽融资渠道。在 碳定价基准工具方面,����年��月发布上海碳价格指 数 确定样本权重,每日滚动计算;这一方式能够更加及时 地反映出市场主体对不同交易产品和不同交易方式的偏 好变化。 上海碳价格指数提供了除每日收盘信息外的综合性 价格基准,为碳资产估值,碳减排活动经济收益测算提 供了工具。在碳市场金融服务方面,指数可应用于碳质 第二节 上海交易市场体系ESG建 设的案例与推广路径 一 PAGE 41 上海ESG发展报告 ���� 押、碳回购、借碳等业务场景,指数充分考量挂牌和大10 积分 | 99 页 | 11.25 MB | 1 月前3
青岛市微电网发展研究——基于典型示范项目的调查益率影响 最大。 表 3.6:敏感度系数(内部收益率为基准) 指标 指标 敏感系数 敏感系数 配储比例 0.19 储能设备价格 0.29 峰谷价差 0.88 资料来源:根据企业调研数据测算。 (2)案例主要经验 自研降低了项目整体成本。作为我国电力线载波通信设备领域中的领导企业,东软 载波敏锐地捕捉到微电网在促进分布式能源就地消纳中作用与发展机遇,以自身信息产 业园屋顶分布式0 积分 | 35 页 | 1.96 MB | 6 月前3
服饰时尚行业数字化转型白皮书-百胜软件&Thoughtworks5%以上;中高端女装占比持续提升,消费需求显著提高。 3)男装:2023年市场规模达5616.52亿元,同比增长8.11%,为增长最快的细分品类。 4)城市白领市场:据国家统计局,国金证券研究所测算2026年预计规模约3653.8亿元(CAGR4.33%),其中25-44岁男性 群体贡献最大(1524.6亿元)。 (资料来源:开源证券《中高端男装领军者,多品牌运营打开成长空间》) 图:男装行业市场规模情况10 积分 | 39 页 | 14.97 MB | 7 月前3
共 13 条
- 1
- 2
