位列全球开源模型第一名，依靠创新结构，将推理成本降低近百倍。 l 2024 年 12 月， DeepSeek-V3 发布，性能对齐海外领军闭源模型。该模型在多项评测集上超越了阿里 Qwen2.5-72B 、 Meta 的 Llama-3.1-405B 等其他开源 模型，并 逼近 GPT-4o 、 Claude-3.5-Sonnet 等顶尖闭源模型。据官方技术论文披露， V3 模型的总训练成本为 DeepSeek-V3 为自研 MoE 模型，共有 671B 参数，每个 token 激活 37B ，在 14.8T token 上进行 预训练。 DeepSeek-V3 多项评测成绩超越了 Qwen2.5-72B 和 Llama-3.1-405B 等其他开源模型，并在性能上和世界顶尖的闭源模型 GPT-4o 及 Claude-3.5-Sonnet 不分伯仲。 l DeepSeek-V3 模型生成速度提升至 21 未开源 Claude 3-Opus 未公布 86.8 Anthrop ic 2024.3.4 未开源 GPT-4 未公布 86.4 OpenAI 2023.3.14 未开源 Qwen2.5-72B 727 86.1 阿里 2024.9.18 开源 Llama3.1-405B 4050 85.2 Meta 2024.7.23 开源 Gemini-Ultra 未公布 83.7 谷歌 2023

。 第 12 页, 共 63 页 图1-2 （互联网行业）整机柜服务器开山之作“Corkboard Server”以及其2024年最炙手可热的传承者GB200 NVL72 Google临时CEO Larry Page参与了“软木板服务器”的设计，每机柜80台单路服务器，21个机柜共1680台， 使得Google的服务器规模在一两个月内暴涨15倍，甩开了包括Inktomi在内的一众搜索竞争对手。 其通过高速的NVSwitch互连多个GPU，在服务器节点级（目前不超过10U）的DGX/HGX方案中，这个互连的范围是8 个GPU；而在机柜级的GH200/GB200方案中，这个互连的范围可达32～72个GPU。 2023年5月底发布的NVIDIA DGX GH200，最初版本是基于Open Rack的风冷方案：每个机柜上有2个宽度538mm （21英寸）、15 OU高的机箱，各有8个GH200计算节点和3个NVLink GPU和32个Grace CPU。两个电源框分别位于节点区的上方和下方，宽度略宽，就像21英寸与19英寸之间的 差别。 2024年3月发布的NVIDIA DGX GB200 NVL72芯片数量和功率暴涨，18个（1U高的）双GB200节点共有72个B200 GPU和36个Grace CPU，整机柜功率随之来到132kW（千瓦）。大规模AI集群不断增长的性能需求，要求机柜内有 更多的GPU/加速器且互连为有

独立开发，但与 MHS 平台愿 景一致。 2024 年年初的 NVIDIA GTC 大会上，NVIDIA 发布了 DGX/HGX 平台的 NVL72 扩展，支持高达 120kW/机架。在 2024 年 OCP Summit 上，NVIDIA 将 NVL72 架构贡献 给 OCP 社区，成为当前超算领域整机柜全液冷服务器的一个事实上的行业标准。 在 2025 年 3 月的 NVIDIA GTC 芯片，代号 Kyber 的整机柜服务器架构。Kyber 架构尺寸与 OCP 标准机柜一 致，但将原来的正前方横插的计算板和交换板，改成前后分别竖插模式，引入 Midplane 替 代 GB200 NVL72 的 Cable Tray，极大减少机柜里的线缆长度。根据规划，Kyber 单机柜 中将放置 144 个 R 系列 GPU，总重量 2.7 吨，总功率 700 kW，后继规划超过 1MW，全 冷板液冷，使用 管理系统网络。通常采用 BMC 的 GE 网口（千兆 RJ45 接口）。 其中 Scale-up 网路通常处于一个 AI 服务器内部，但 Nvidia 在最新的 GPU 系统中推 广 NVL72,NVL144 以及 NVL576 的整机柜产品，成为业界新的支持更多卡高速低时延互联 的超节点新形态的设计方向。在本文中液冷多算力兼容的平台设计中主要考虑对参数面 Scale-out（东西向）

您调整今天的供应链战略？ 智能敏捷供应链 释放无限潜力 引言 智能供应链洞察变革，驱动增长 3 报告显示其年收入增长率高于 同行竞争者。 17% 报告显示其年净利润高于 同行竞争者。 72% 供应链的稳定性始终难以把握。商业环境中 的各种潜在风险让我们很难预测未来的变化。 面对不确定的环境，供应链高管往往要采取 “围城心态”，迅速调整策略，从计划 B 转 向计划 C、D 甚至 特别是将 AI 能力视作自动化投资核心的组织， 已获得显著回报。报告显示，相较于同行竞争者， 这些组织的年净利润高出 72%，年收入增长率 高出 17%。所有受访的供应链高管都认为，AI 驱动的运营将在未来三年内推动收入增长翻倍 或更多。 1 根据这些数据，72% 的高绩效 CEO 在 IBM 商 业价值研究院 (IBM IBV) 发布的 2024 年 CEO 研究报告中指出，企业的竞争优势取决于是否

1、不同类型组件功率 2024 年，采用 182mm 方片尺寸 72 片 PERC 单晶电池的组件功率达到 555W；采用 210mm 方片尺寸 66 片 PERC 单晶电池的组件功率达到 665W，预计 2026 年以后 p 型技术路线基本退 出市场，其功率进一步增长将基本停滞。采用 182mm 方片尺寸 72 片 TOPCon 单晶电池组件功 率达到 593W，采用 182*210mm 单晶组件（210mm 方片）、异质结 组件（210mm 方片）和 XBC（182*210mm）组件以 66 片为基准，PERC 单晶组件（182mm 方片）和 TOPCon（182mm 方 片）以 72 片为基准； 3、以上组件均采用半片封装形式。 2、单/双面发电组件市场占比9 2024 年，随着下游应用端对双面发电组件发电增益的认可，双面组件市场占比提升至 77.6%， 远超单面 所有逆变器总量的比例。2024 年我国逆变器主控制芯片在地化供应率为 29%，同比 2023 年提 升超过 5 个百分点。随着国内控制芯片厂商的不断发展，预计 2030 年我国逆变器主控制芯片在 地化供应率或将超过 72%，行业对本土产芯片有所期待。 0% 20% 40% 60% 80% 100% 2024年 2025年 2026年 2027年 2028年 2030年 集中式逆变器（%） 1500V组串式逆变器（%）

为 AI 提速，给安全加码 挑战 解决方案 云服务器升级 解决方案 企业云服务 第五代英特尔® 至强® 可扩展处理器具备更强通用计算和 AI 加速能力 阿里云 ECS g8i 集群可支撑 72B 参数级别的大语言模型分布式推理 文生图 创意辅助工具 AI 生成代码 虚拟助手 1.2.3 数据来源于阿里云未公开的内部测试，如欲了解更多详情，请联系阿里云：https://www.aliyun 可扩展处理器在 NLP (YonMaster Dialogue Bot) 工作负载中实现了 1.2 倍的代际吞吐性能提升 6。 收益 • 提升 NLP 应用的性能 显著化解 NLP 中频繁的向 72B 最大可支持参数规模 eRDMA 集群 batchsize>32 内存资源丰富 eRDMA 集群化部署 g8i g8i g8i g8i g8i g8i 5 千帆大模型平台利用百度智能云平台中丰富的英特尔® 权重和配置 • 释放至强® 和至强® Max 系列处理器的 DRAM 和 HBM 带宽潜能 更高性能 • 支持跨 Socket、跨节点分布式推理 • 支持高达 70B LLM 模型 (Qwen-72B) 更好扩展性 • 内存容量需求低 • 通过精细的内存规划进行优化，以支持更大模型 更好 TCO • 支持多种 LLM 模型，如 LlaMA 1/2, ChatGLM 1/2/3, Baichuan

投资要点：  DeepSeek推动模型平权，关注AI终端及算力领域。2024年12月，DeepSeek V3 首 个 版 本 上 线 ， 在 多 项 评 测 成 绩 超 越 了 Qwen2.5-72B 和 Llama-3.1-405B 等 开 源 模 型 ， 并 在 性 能 上 和 GPT-4o 以 及 Claude-3.5-Sonnet不分伯仲，训练成本约为558万美元。1月20日， Dee 推动模型平权，关注 AI 终端及算力领域 DeepSeek 以更低成本提供对标 o1 模型。2024 年 12 月，DeepSeek V3 首个版本上线，在 多项评测成绩超越了 Qwen2.5-72B 和 Llama-3.1-405B 等开源模型，并在性能上和 GPT-4o 以及 Claude-3.5-Sonnet 不分伯仲，训练成本仅约为 558 万美元。1 月 20 日，DeepSeek

人机协同学习的智能运 营 AI 训练师 + 智能客服 = 很多很多的人工 客服 3.1 落地效果 --QABot 实时响应、 24 小时永不离线、轻松应对高峰咨询量、比人工更有耐心 每天解决 72,000 个问题 ≈ 510 个客服努力工作一 天 ≈ 4,100 小时 算法离线准确率 92% 在线智能解决率 83% 线上 效果 ( 外卖 ) 打车司机平台派单少 task 智能解决率

592� 602� 616� 639� 664� 690� 718� 746� 54� 55� 59� 56� 53� 61� 58� 58� 58� 58� 59� 59� 48� 56� 57� 72� 82� 70� 84� 89� 94� 99� 104� 109� 3� 7� 11� 17� 30� 33� 37� 47� 57� 69� 82� 97� 389� 398� 396� �������ANEEL�������� �2������100�����7.88�千���1.40���� • ����� 2023��务����������17.3��������33%��务72%��������� �������5������������38��������������� • ��������� ���������������������������������� •

某些案件。 数据创新中心 9 表 4 ： 使用人类的碳足迹 (克二氧化碳) (在 美国 ） 与某些任务的 AI （ BLOOM / Midtry ） AI 笔记本电 脑 27 台式机 72 Human 1,400 5,500 写一页文字 创建图像 0.95 1.90 100 280 AI 的能量如何使用适合更大的图片 关于人工智能能源使用的辩论是关于如何 应对全球气候变化。在这种情况下 https: / / blogs. microsoft. com / blog / 2020 / 01 / 16 / microsoft - will - be - 到 2030 年负碳 / 。 72. “气候 ” ， Facebook ， n. d. ， 2024 年 1 月 8 日访问 ， https: / / sustainability. fb. com / climate /. 73