➢ 随着推理路径增长，模型表现出自我修复和启发式搜索的能力； 4 DeepSeek-R1 开创RL加持下强推理慢思考范式新边界 ➢ 得益于强大的推理能力与长文本思考能力，DeepSeek R1在复杂任务上表现卓越，成为开源领域的又 一里程碑，标志着开源社区在与闭源大模型（如 OpenAI o1 系列）的竞争中迈出了关键性一步。 ➢ DeepSeek-R1 在数学代码任务上表现突出 ➢ Deepseek ➢ 没有使用Reward Model, 因为ORM和PRM等基于神经网络的都可能遭受reward hacking 而retraining reward model 需要大量的计算资源，可能会复杂化整个流程 ➢ 训练模板：选择最简单的 Thinking Process，直接观察到最直接的RL过程下的表现 基于规则的奖励 (Rule-Based Reward) : 准确率奖励 + 格式奖励 ➢From PPO to GRPO: ➢ PPO的价值函数通常是与策略模型规模相当的独立模型，这带来了巨大的内存和计算负担。 ➢ 奖励模型通常仅对输出序列的最后一个词元分配奖励，导致逐词元价值函数的训练复杂化。 ➢ GRPO：无需像PPO额外近似价值函数，而是利用同一问题下多个采样输出的平均奖励作为基线。具体而 言，对于每个问题 ，GRPO从旧策略𝜋𝜃𝑜𝑙𝑑中采样一组输出，并通过最大化以下目标优化策略模型：

以应对更复杂、 更庞大的数据集或任务。 大模型通常能够学习 到 更细微的模式和规律 ，具有更强的泛化能力和表达能力 学习能力强 大模型可以从大量的数据中学习， 并利用学到的知识和模式来提供 更精准的答案和预测 。这使得它 们在解决复杂问题和应对新的 场 景时表现更加出色 上下文理解能力 大模型具有更强的上下文理解能 力 ，能够理解更复杂的语意和语 是指能够处理多种不同类型数据的大模型，例如 文本 、 图像 、音频等多模态数据 。这类模型结 合 了 NLP 和 CV 的能力， 以实现对多模态信息 的综合 理解和分析，从而能够更全面地理解和 处理复杂 的数据 。代表性产品包括 DingoDB 多模向量数据 库（九章云极 DataCanvas ） 、 DALL-E(OpenAI) 、 悟空画画（华 为） 、 midjourney 等 先显式地写出推理的中间步骤。这就像人 类解决复杂问题时会先把思考过程写下来 一样。 推理模型的核心 也就是说 ，如果模型在回复你之前有一 长 串的思考过程（这个过程必须可以显 示输 出） ，探索了很多不同的路径之后 给出答 案 ，那么有这个能力的大模型就 是推理大 模型。推理模型的核心在于处 理那些需要 多步骤逻辑推导才能解决的 复杂问题。 3.4 大模型的分 类 大语言模型可以分为通用大模型和推理大模型

Foundation Model），是指具有大量参数和复杂结构的机器学习模型，能够处 理海量数据、完成各种复杂的任务，如自然语言处理、计算机视觉、语音识别等。大模型通常包括大语言模型 (LLM)、视觉 大模型 (CV)、多模态大模型等各种类型。 大模型通过训练海量数据来学习复杂的模式和特征，具有更强大的泛化能力，可以对未见过的数据做出准确的预测，能够处 理更加复杂的任务和数据。 展开来讲，大模型技术有以下几项基本特征： 高效处理和理解。由于不依赖序列顺序，Transformer 架构在模型训练和推理时的并行处理能力更强，效率更高。 2. 参数规模大。大模型通常包含数千万、数亿甚至更多参数；巨大的参数规模使大模型能够处理更加复杂和多样的任务。 3. 强大的泛化能力。大模型通过在大规模数据集上进行训练，学习到了丰富的知识和特征表示，从而具有强大的泛化能力， 能够有效处理多种从未见过的数据或新任务，甚至能处理一些与训练数据 1.3.2 工业大模型 07 01 工业人工智能 (AI) 行业观察 汽车制造作为制造业皇冠上的明珠，也是 AI 技术落地应用的重要领域。目前，AI 技术已经渗透到汽车制造中繁多复杂的生 产流程中，从汽车零部件的质量检测、到生产物流运输、装配生产线的自动化、再到整车质量检测等众多环节，AI 技术的 使用都显著提高了生产效率和产品质量。 1.4 行业应用 1.4.1 汽车行业

Restricted Distribution 下一代 AI 技术 Mamba 、空间智能 等 算力 x 数据 x 思 考 模 型 效 果 低成本完美对标 OpenAI O1 ，突破精确语义理解及复杂推理任务 DeepSeek-V3 是一款 MoE 模型，总参数量 671B ，激活参数量 37B ，采用 2048 张 H800 （节点内 NVLink ，节点间 IB ，非超节点架构） 在 14 DeepSeek 通过从模型结构到训推全流程的优化，带来大模型新 范式 DeepSeekV3/R1 ，大幅提升从训练到推理的计算效率，降低模型创新及应用落地的门槛 降低学习复杂度 简化强化学习流程 降低后训练复杂度 推理优化 单次推理效率倍级提升 一次预测多个 token 推理倍级提升 FP16/BF16 1 前 1 后单流水 需要裁判模型评估 1 次 1token 预测 MHA/GQA 毕昇编译器 | Runtime 运行时 开放硬件资源接口，满足开发者对模型开发、系统优化、三方生态对接等各场景需求 算子加速库 开放 1600+ 基础算子接口、 30+ 融合算子接口，简化开发复杂度，提升开发效率 Ascend C 编程语言 开放 130+ 底层 API 、 60+ 高层 API ，支持高性能自定义融合算子开发 加速库 Megatron

DeepSeek（深度求索）是中国首个全栈开源的大语言模型，由杭州深度求索人工智能 公司研发，定位为“认知智能引擎”。简单来说，它是一个能像人类一样思考、学习和解 决问题的超级 AI 工具。 核心能力： ⚫ 复杂推理：像学霸解数学题一样处理逻辑难题（R1 模型） ⚫ 多模态融合：能理解文字、图片、文件等多种信息（未来还将支持语音和视频） ⚫ 超长上下文：一口气读完 3-4 万字的长文档（64Ktoken 和话题标签） ⚫ 知识管家：自动整理会议录音→生成思维导图→提炼待办事项 ⚫ 语言翻译：支持 42 种语言互译，自动适配文化差异（如把“摆烂”翻译成 “quietquitting”） 局限：复杂逻辑问题需升级至 R1 版本 模块 2：深度思考（R1）——决策智囊团 技术突破： ⚫ 思维链可视化：像老师写板书一样展示推理步骤（如解方程时先分解条件再推 导） ⚫ 反事实推演：模拟“如果特斯拉降价 无需下载，支持文件上传（PDF/Word/图片） ⚫ 功能齐全，包含普通模式（V3）、深度思考（R1）、联网搜索 操作提示：登录后点击输入框下方按钮切换功能模式，例如开启 R1 模式处理复杂数学 题 ②手机 APP（移动办公神器） 下载方式： ⚫ iOS：AppStore 搜索"DeepSeek"（蓝色鲸鱼 LOGO） ⚫ 安卓：应用商店搜索下载或官网直接获取安装包

概念飘逸等） ， 支持 200 多 种数据格式自动解析。 • 2. 中级能力层 领域问题建模与复杂推理 ，包括领域自适应学习（建立医、 教育、 金融垂直应用于 模型） 、 因果推理引擎（建立因果图模型） 和多目标优化决策（求解帕 累托最有解） 。 • 3. 高级能力层 复杂系统建模与自主决策 ，包括数字孪生仿真系统（构建物理于数字融合虚拟环境 模拟天气等） 、 功能：用于开发本地 RAG 应用程序 ，支持多模态内容摄取、 混合搜索、知识图谱构建、 GraphRAG ，具备用户管理、 可 观测性、配置及可视化交互等功能 ，适用于处理动态数 据和 复杂实体关系的应用程序。 • 2. Cognita ：官网： https://cognita.truefoundry.com/ • 功能：模块化框架 ，提供定制化管道 ，用于构建可扩展且生

算盘、算筹 ▶ 计算器、计算机 ■ 原生算力：大脑 ( 可处理复杂逻辑，但不能高速处理简单运算 ) ■ 外部算力工具： ■ 草绳、石子 ■ 算盘 ■ 计算机：算力提供者 ( 可高速简单运算，不能处理复杂逻 辑 ) 算力的发展 “I think there is a world market