电子行业:AI大模型需要什么样的硬件?-20240621-华泰证券-40页73.40 12,950 12.0 8.1 8.9 1.5 1.4 1.3 2.0 1.3 1.4 -0.8% 12.0 8.0 7.6 1.7 1.6 1.5 0.9 0.9 0.8 -23.7% 20 HK Equity 商汤科技 13.5 0.8 0.7 0.6 1.7 1.5 1.5 4.6% 603296 CH Equity 华勤技术 57.19 58110 积分 | 40 页 | 2.60 MB | 6 月前3
电子AI+系列专题:DeepSeek重塑开源大模型生态,AI应用爆发持续推升算力需求的变化,这种变化不能简单地通过观察或分析较小规模模型的性能来预测。 2000 150 0 100 0 500 0 Claude 3 Gemini Ultra Gemini Pro 1.5 ● ● Inflection-2.5 Inflection-2 GPT-4 Turbo ● 530B ● Grok 1 GPT 48B Fuyu YOu a I2T i al l u l y a I k Qwen 1.5 MM1 i I L l l e y E Se v G p e M ee -h D u a F s m L M a e rS 2024.9.18 开源 Gemin i 1.5 Pro 未公布 81.9 谷歌 2024.2.15 未开源 GLM4 未公布 81.5 智谱 AI 2024.1.16 未开源 Grok-1.5 未公布 81.3 xAI 2024.3.29 未开源 YAYI2-30B 300 80.5 中科闻歌 2023.12.22 收费开源 Qwen1.5-110B 1100 80.4 阿里 202410 积分 | 38 页 | 1.95 MB | 6 月前3
ABeam:智变中国-2025科技趋势洞察报告AI AI AI Flyme AI AI AI AI AI AI AI AISP AI AI AI AI AI AI AI AI 0.1 0.4 0.8 1.3 1.5 5.50% 13.20% 29.60% 45.30% 51.90% 0.00% 20.00% 40.00% 60.00% 0 1 2 2023 2024 2025 2026 Generative Pre-trained Transformer 4 AI • AI GPT • GPT3.5 2024 AI • 2024 AI Gemini AI AI AI AI Kimi k1.5 Deepseek 2025 1 AI • 2025 1 AI Deepseek AI 140 AI AI AI 29 1.3 AI AI AI AI AI AI20 积分 | 97 页 | 11.51 MB | 2 天前3
2025中国RFID无源物联网行业产业白皮书-161页128 528 2K Read:-19 Write:-13 温度传感 、LED、国密、 2K 用户区 资产健康管理、无源温度检 测 Qstar-5X (S5X) 256 528 512/1K/ 1.5K/2K Read:-19 Write:-11 2K 大容量用户区、 IATA 标准 资产管理 航空资产 Qstar-5R (S5R) 208 528 8K/16K/ 32K/64K Read:-17 珠宝&奢侈品&艺术品 1.0 1.0 1.0 1.1 1.3 1.5 1.7 1.9 2.1 电力 2.2 2.3 2.4 2.5 2.7 2.9 3.1 3.3 3.5 酒店布草 0.2 0.2 0.2 0.25 0.3 0.4 0.5 0.6 0.7 医疗 0.8 1.1 1.3 1.5 1.7 2.0 2.5 3.0 3.5 工业生产制造 1.2 1.5 1.8 2.0 2.5 3.0 4.0 5.0 0 6.0 酒类 1.0 1.1 1.2 1.3 1.4 1.5 1.8 2.1 2.4 烟草 0.8 0.8 0.8 0.9 1.0 1.1 1.2 1.3 1.4 动物管理 0.6 0.7 0.8 0.9 1.0 1.2 1.5 1.8 2.2 3C 电子产品 0.1 0.1 0.2 0.3 0.4 0.5 0.6 0.7 0.8 票据 0.3 0.3 0.3 0.3 0.3 0.320 积分 | 161 页 | 13.17 MB | 2 天前3
大模型平民化开启“AI+医疗”新纪元-国联民生证券57 -0.65 0.03 0.21 0.50 0.68 0.42 -1.50 -600% -400% -200% 0% 200% 400% 600% (2.0) (1.5) (1.0) (0.5) 0.0 0.5 1.0 2017 2018 2019 2020 2021 2022 2023 2024 归母净利润(亿元) yoy(右轴) ➢ 公司首先推 定期举办“域见杯”医检人工智能开发者大赛 资料来源:公司官网,国联民生证券研究所 78 金域医学检验大模型 金域医学:深耕医检行业,数据积累领先 ◥ 数据支撑 ➢ 数据量大,年样本数量超过1.5亿例; ➢ 样本来源广泛,覆盖中国人口90%的区域,服务23000家医院,检测项目4000多个,涉及十几大类检测平台,数据多元; ➢ 数据全,具有全病程、全生命周期和全病种的特点。 资料来源: 32 地理覆盖范围 中国内地、中国 香港 中国内地、越南 中国30个省市及 1,600多个市县 服务医疗机构数量 超23,000家 超22,000家 超19,000家 年检测样本量 1.5亿+ 1.5亿+ 几千万 金域医学, 27.77% 迪安诊断, 18.64% 艾迪康, 11.86% 兰卫医学, 3.67% 康圣环球, 3.38% 云康集团, 3.21%10 积分 | 85 页 | 5.92 MB | 6 月前3
Deepseek在药企研发领域的本地化部署和应用场景视 频 能 力 ,深 入 语 音 视 觉 实 时 多 模 态 应 用 场 景 。 · 国内推理模型迅速跟进。 DeepSeek-R1 、 QwQ-32B-Preview 、 Kimi-k1.5 、 GLM-Zero 、 Skywork-o1 、 Step R- mini 、 讯飞星火 X1 等模型密集发布。 国内模型性能持续提升。 DeepSeek-V3 、 Qwen2 04 Al 融入智慧芽生物医药产品 智慧芽 6 Model Base Model Model Download DeepSeek-R1-Distill-Qwen-1.5B Qwen2.5-Math-1.5B HuggingFace ModelScope 蒸馏模型,能力稍弱 实际上是增加了推理能力的 Qwen 模型和 Llama 模型, 严 格 来 讲 不 能 称 为 DeepSeek10 积分 | 33 页 | 2.29 MB | 6 月前3
电子行业AI+系列专题:边缘AI,大语言模型的终端部署,推动新一轮终端需求-20230531-国信证券-25页315*10^21FLOPs 315*10^21FLOPs GPT-3 训练所需算力 121528TFLOPS 121528TFLOPS 所需 GPU 数量 1558 322 GPU 单价 1.5 万美元 3.65 万美元 对应 GPU 价值 2337 万美元 1175.3 万美元 推理阶段算力需求测算 Tensor Float 32(TF32) 156TFLOPS 756TFLOPS 4760*10^21FLOPs 4760*10^21FLOPs GPT-3 推理所需算力 55*10^6TFLOPS 55*10^6TFLOPS 所需 GPU 数量 706315 145748 GPU 单价 1.5 万美元 3.65 万美元 对应 GPU 价值 105.95 亿美元 53.2 亿美元 资料来源:NVIDIA,国信证券经济研究所整理 因此,训练大模型必然需要采用分布式方案。不仅要满足算力的需求,还要解决上千10 积分 | 25 页 | 2.20 MB | 6 月前3
DeepSeek如何影响银行业风险多头 尽调报告 生成 合规审查 舆情监控 防火墙 防 火 墙 知识管理:从静态数据库到动态知识引擎 模型规模 最低 GPU 显存 推荐 GPU 型号 纯 CPU 内存需求 适用场景 1.5B 4GB RTX 3050 8GB 个人学习 7B 、 8B 16GB RTX 4090 32GB 小型项目 14B 24GB A5000 x2 64GB 专业应用 32B 48GB A10010 积分 | 27 页 | 6.51 MB | 6 月前3
AI在保险行业的发展和应用(32页 PPT)ChatGPT 技术演 进 InstructGPT ChatGPT GPT-2 GPT-1 GPT-3 GPT-4 数据: + Reddit 高质量 Webtext 模型:同 GPT-1 参数: 1.5 B 特点: + NLP 任务的 prompt 预 训 练,具备 zero-shot 的能力 数据: + 人工标注数据(万级 别) 模型: GPT-3 + 强化学习 参数: 1.3 B 特点:需求理解能力大幅提升,10 积分 | 32 页 | 941.17 KB | 2 天前3
电子AI+系列专题:复盘英伟达的AI发展之路4760*10^21FLOPs 4760*10^21FLOPs GPT-3 推理所需算力 55*10^6TFLOPS 55*10^6TFLOPS 所需 GPU 数量 706315 145748 GPU 单价 1.5 万美元 3.65 万美元 对应 GPU 价值 105.95 亿美元 53.2 亿美元 AI 服务器相关 DGX A100 H100 单个服务器对应 GPU 数量 8 8 所需服务器数量 8 315*10^21FLOPs 315*10^21FLOPs GPT-3 训练所需算力 121528TFLOPS 121528TFLOPS 所需 GPU 数量 1558 322 GPU 单价 1.5 万美元 3.65 万美元 对应 GPU 价值 2337 万美元 1175.3 万美元 AI 服务器相关 DGX A100 DGX H100 单个服务器对应 GPU 数量 8 8 所需服务器数量10 积分 | 30 页 | 1.27 MB | 6 月前3
共 28 条
- 1
- 2
- 3
