表示，从而具有强大的泛化能力， 能够有效处理多种从未见过的数据或新任务，甚至能处理一些与训练数据截然不同的任务。这使得大模型能应用于多种任 务和场景，具有广泛的适用性。 4. 灵活性和可定制性。大模型通常具有灵活的架构和可定制的参数，可以根据特定需求对通用大模型进行定制和优化。通过 微调 (Fine-tuning) 技术，预训练的大模型可以快速适应新的任务和数据集，而无需从头开始训练。此外，还可以通过添 即使在空间和功耗受限的环境中，也能快速轻松地在边缘部 署 AI 和图形处理功能，以满足视觉和自动化等用例的需求。 英特尔® 酷睿™ Ultra 处理器配备众多计算引擎，采用高能效 BGA 封装，能够为创新设计提供更大的灵活性，是应对边 缘严苛工作负载的理想选择。这些功能强大的边缘处理器可 以加速从 AI 获取结果，为每台设备提供更多媒体流，并提 供长期供货保证 2，以提升长期价值。 单个封装内部署更多 AI 借助能效优于上一代产品的平台简化边缘 AI 部署 5。英特尔® 酷睿™ Ultra 处理器采用 BGA 封装，在相同功耗水平下，可 提供比上一代产品更高的 AI 性能，让终端客户能够在空间有 限的环境中灵活运行更多的工作负载。这一平台非常适合需 要无风扇或较少散热的边缘设计，同时还优化了电源设计， 可通过控制活动较少时段的能耗，帮助降低能耗成本。 英特尔® 酷睿™ Ultra 处理器还配备英特尔®

度分析技术，为教育 提供新的研究视角， 从指导决策。 通过开放式应用和灵活性 加工， IBM 帮助教育实现 智能化 智能工作 绿色与其它 新智慧 能源结构 IBM 帮助教育创建智慧设施， 在减少成本的前提下，提供能 源和安全。 提升学生、教育和社会的 成果 为教师和学生提供个性化 学习资源 保证实现投资目标 通过灵活性系统实现 环境改变 IBM 智慧课堂 1:1 学习 可视化

Huawei Proprietary - Restricted Distribution 关键 发现 ① 细粒度的计算通信并行 • 将 PP stage 拆分为更细的模块 ，提升模块交替编排的灵活度 • 参考 ZeroBubble ，反向传递中的权重更新和梯度传递独立操作 • 经过细粒度的拆分和编排之后 ，计算流和通信流的 barrier 刚好可以重叠 ② 双向管道调度减少 PP 架 构 异构计算架构 CUDA Huawei Proprietary - Restricted Distribution A Ascend 16 计算架构 CANN 深度开放，使能高效灵活开发，匹配开发者使用 习惯 算子加速库 XF 结合场景差异优化 运行时 NV Runtime KS 直 接 发 起 Kernel Launch GE 图引擎 MT 、 KS 自定义图融合

( 穷则战术穿插 ) ■ 针对美国的算力禁令 ■ 核心思想： 1 共享专家 +256 路由专家，激活 8 个路由专家 ■ 共享专家： 捕获通用知识、降低知识冗余 ■ 路由专家： 量大、细粒度、灵活组合、方便知识表达 ■ 结果：每个 Token 只要过 360 亿参数 (Llama 3.1 要 4050 亿参数 ) DeepSeek."DeepSeekMoE:Towards Ultimate

4.2 国产 AI 大模型 DeepSeek 走入高 校 本地部署 大模型 4.3 为什么需要本地部署大模 型 离线与高效使用 成本与资源优化 数据隐私与安全性 避免使用限制 定制化与灵活性 模型微调技术特点 （ 1 ）领域针对性强： 经过微调的 模 型在特定领域的表现会有显著提 升 ， 能够更好地理解和处理该领域 的专业 问题； （ 2 ）模型适应性优化： 通过微调 ， 比 如智 能问答、 文档生成等。 它能够利 用知识 库中的信息 ，为用户提供准确、 详细的 回答。但 RAG 的局限性在于 ， 它缺乏自 主决策和规划的能力 ，对于一 些复杂的、 需要灵活应变的任务可能无 法胜任 各 自 的 优 势 和 适 用 场 景 RAG 和 AI Agent 都有各自的优势和适 用场景。对于企业用户来说 ，在选择时 需要根据自身的业务需求、 本字段）进行 交互。 Operator 通过观察屏幕并使用虚拟鼠标和键盘来完成任务 ，而 无需依赖专门的 API 接口。这种设计使其可以适配任何为人类设计的软件界面 ，带来极 高的灵活性 Operator 好比一个博士水平的个人助理 ，你给他一个复杂的任务 ， 它就会自动执行。 Operator 的主要功能包括自主完成诸如采购杂货、提交费用报表、订票、 买日用品、