Grok-3 20 万张卡 思维链推理 上下文对话 语料学习 ChatGPT BART Encoder-Decoder QWQ-32B 两阶段强化学习 BERT Only Encoder GPT Only Decoder RoBERTa Only Encoder GPT Only Decoder Gemma-3 多模态推理融合 思维链推理 DeepSeek-R1 高探索自由度 = 推理能力自我觉醒 （更长的思维链、 更深层次的 推理路径） 低可控：生成文本可 读性差、语言混乱 拒绝采样： 筛选高质量样本 20 万条 通用数据 在探索自 由度、学 习效率、 行为可控 性 找到动 态平衡 第一阶段训练：增强推理能力，生成高质量推理数据 推理导向强化学习 （准确率奖励 + 可读性奖励） 第二阶段训练：增强通用能力，避免灾难性遗忘 推理导向强化学习 （准确率奖励 + 格式奖励） DeepSeek-R1 （强推理模型） 671B DeepSeek-R1-Zero （强推理模型） DeepSeek-V3 （基础模型） 面向全场景的强化学习 （规则奖励 + 奖励模型） 纯强化学习训练 多阶段增强训练 R1-Zero 生成的 长思维链数据 综合性能 更强

Ø Multi-tasks Adaptive，支持多种任务，包括自然 语言生成NLG和自然语言理解NLU类的任务； Ø Few-shot (Zero-shot)，在少甚至无标注样本的 条件下支持推理（自监督学习）。 产业研究 战略规划 技术咨询 3 大模型发展历程 众多预训练模型相继涌现，OpenAI 以 GPT2、GPT-3、ChatGPT 等系列模型为代表，持续引领大模型时代的浪潮 Code �� Other �� 产业研究 战略规划 技术咨询 9 ���� 问答 理解类 推理类 数学类 创作 表达类 代码类 ���� 问答理解类 常识、专业知识、多语言、多模态、角 色扮演+多轮对话、安全陷阱 推理类 情感推理、演绎推理、逻辑推理、归纳 推理、类比推理 创作表达类 文字创作&创意、内容改写/续写、修改 /润色、文字处理、编辑/语义匹配、摘 要提取、关键、字提炼、标题生成、文 要提取、关键、字提炼、标题生成、文 本风格迁移、图像创作、短视频创作(文 生视频)、其他创作(文学艺术、商业通 用) 数学类 小学数学、初中数学 高中数学、高等数学 推理类 代码生成、编程翻译 代码解释、代码纠错 代码自动补全 生成代码文档 单元测试 toC通用 场景类 生活助手 办公工具 toB特定 行业类 工业:产品设计辅助&&生产规划 教育:智能问答、试题生成 法律:智能法律助手，法律咨询

智能理赔 智能风控 智能投研 大模型服务 提示词工程 预训练服务 微调服务 大模型评估 推理服务 大模型使能平台 零碳数据中心 云平台 傲飞算力平台 绿洲数据平台 n 大模型全栈能力， 支撑从模型到 基础设施一站式应用部署 新华三保险智算解决方案 百业灵犀 服务 数据标注 数据服务 算法开发 数据治理 数据开发 模型训练 应用推理 数据采集 可视化 模型仓库 调度优化 湖仓一体 数据管理 资源监控 工程化 数据安全 9 灵活 提供百亿及数百亿的两个模 型版本，并通过 DMOE 技 术 实现千亿乃至万亿模型 的支 持，提供灵活的模型 选择 高效 单卡完成模型推理部署，既 能够满足数十人并发需求， 支撑数百人日常使用，极大 教育 企业 运营商 AI 助 手 自动智能 行业适配 模型集成 应用管理 知识库 推理服务 更 安全 更 灵活 更 高效 更 简单 生 态 伙 伴 + 新 华 大模型使能平台 模型层 11 三 AI 助手 请你请根据我提供的文件 ，汇总 提炼其中第三章节的内容

.......................................... 119 3. PolarDB-PG AI 最佳实践 2：PolarDB AI X EAS 实现自定义库内模型推理最佳实 践 ............................................................................................ 工业赛道“最佳论文奖”。 本次云栖大会，阿里云瑶池还正式发布了云原生内存数据库 Tair Serverless KV 服务， 是阿里云首个基于 NVIDIA TensorRT-LLM 的推理缓存加速云数据库产品。Tair 采用 第一部分：Data+AI 大咖观点 13 NVIDIA TensorRT-LLM 一起进行了深度优化。相比开源方案，该服务可实现 媒体声音 | 专访阿里云数据库周文超博士：AI 就绪的 智能数据平台设计思路 在生成式 AI 的浪潮中，数据的重要性日益凸显。大模型在实际业务场景的落地过程 中，必须有海量数据的支撑：经过训练、推理和分析等一系列复杂的数据处理过程， 才能最终产生业务价值。事实上，大模型本身就是数据处理后的产物，以数据驱动的 决策与创新需要通过更智能的平台解决数据多模处理、实时分析等问题，这正是以阿 里云为代表的企业推动

大模型可以通过精准的用户画像和个性化推荐，提高营销转 化率和客户满意度。 为了实现上述目标，项目将采用以下关键技术和方法： 1. 分布式计算架构：利用云计算和边缘计算资源，构建高性能的 分布式计算环境，确保 AI 大模型的训练和推理效率。 2. 多模态数据处理技术：整合企业的结构化数据（如 ERP、CRM 系统）和非结构化数据（如文本、图像、视 频），形成统一的数据平台，为 AI 模型提供丰富的数据源。 3. 模型管理 企业数字化转型过程中对智能化应用的广泛需求。项目范围涵盖从 基础设施建设到模型训练、部署、监控的全流程，具体包括以下几 个方面： 1. 基础设施建设：搭建高性能计算集群，包括 GPU 服务器、存 储系统和网络设备，确保模型训练和推理的高效运行。同时， 配置必要的软件环境，如深度学习框架、分布式训练工具和容 器化平台。 2. 数据管理与预处理：建立统一的数据管理平台，支持多源数据 的采集、清洗、标注和存储。实施数据安全策略，确保数据的 模型。通过分布式训练技术，加速模型训练过 程，并采用自动化调参工具优化模型性能。模型训练将涵盖监 督学习、无监督学习和强化学习等多种方法。 4. 模型部署与优化：将训练好的模型部署到生产环境中，支持实 时推理和批量处理。采用模型压缩、量化和剪枝等技术，优化 模型在边缘设备上的运行效率。同时，建立模型更新机制，确 保模型能够持续改进。 5. 监控与维护：建立全面的监控系统，实时跟踪模型的性能指标

以下是该系统的功能模块设计： 功能模块 描述 数据接入模块 负责接入来自不同来源的数据，包括结构化和非结构化 数据。 数据处理模块 对接入的数据进行清洗、归约和特征提取，为模型输入 做准备。 模型推理模块 调用训练好的 AI 大模型进行实时分类。 结果反馈模块 收集用户反馈与分类结果，以用于模型的持续优化。 可视化展示模块 将分类结果以图表、报表的形式直观展示给用户。 综上所述，AI 大模型流水分类系统的设计方案将有效提升企业 整个系统将包含数据预处理、特征提取、模型训练及在线推理 等多个模块。数据预处理阶段将首先对流水数据进行清洗和格式 化，以确保数据的质量和一致性；特征提取阶段将利用机器学习和 深度学习的方法，分析和识别关键特征，以提升后续分类的准确 性；模型训练则依赖于大规模的数据集和强大的计算能力，采用最 新的深度学习框架进行模型训练和优化。在在线推理阶段，经过训 练的模型能够实时处理新的流水数据，为用户提供准确的分类结 类。此层包含以下几个关键组件：  模型训练模块: 通过使用大规模的数据集进行模型训练，采用 深度学习等技术，构建高准确率的分类模型。  推理模块: 负责实时数据的分类推理，生成分类结果。推理模 块需要具备快速响应能力和高并发处理能力。  API 服务层: 该层通过 RESTful API 将推理服务暴露给上层应 用，接收请求、返回结果。此外，API 层还需考虑安全性和负 载均衡。 在此基础上，服务层还需要考虑模型的版本管理和更新策略，

大模型创新演进对智能算力产生较大需求，推动大 规模智算集群的增长。《智算产业发展研究报告（2024）》1显示，与 语言大模型（GPT-3）相比，Sora 训练阶段的算力需求是大语言模型 170+倍。在推理阶段，算力需求是大语言模型 600+倍。2025 年 2 月， 马斯克旗下人工智能公司 xAI 发布了其最新一代大模型 Grok 3，Grok 3 使用了拥有约20万张英伟达 H100 GPU的大型智算中心进行训练， ，聚焦多模态大模型训 练，构建“云-边-端”协同的西南智算枢纽，支撑成渝地区数字经济核 心产业发展；中国移动在北京建成大规模训推一体智算中心，支撑高 复杂度、高计算需求的百亿、千亿级大模型训练推理；河南郑州智算 中心开工建设，总投资超 16 亿元。当前，以智算中心为代表的数字 新基建正加速推进、快速落地。 （三）技术革新，激发智算行业创新活力 随着大模型参数量持续增大，数据处理难度和模型训推复杂度不 明确提出优化国家智算资源布局，完善全国一体化算力网，充分发挥 “东数西算”国家枢纽作用。“东数西算”工程进一步明确了东西部枢纽 节点功能定位，其中东部枢纽节点重点支持工业互联网、金融证券、 灾害预警、人工智能推理等对网络要求较高的业务。西部枢纽节点则 重点处理后台加工、离线分析、存储备份等对网络要求不高的业务。 此外，《算力基础设施高质量发展行动计划》明确提出，结合人工智 能产业发展和业务需求，重点在西部算力枢纽及人工智能发展基础较

使央国企的大模型能够理解业务逻辑，从而为“深水区”场景的落地 提供了可能。 目前，央国企可通过以下三种方式实现这一目标： l 模型蒸馏与能力迁移：央国企可通过蒸馏 DeepSeek R1 获取推理能力，并将其“复制”到自 有模型上，快速提升模型的业务适配性。 l 技术路径参考与自主构建：央国企可参照 DeepSeek 公开的技术路径，从头构建思维链数据， 并通过微调、强化学习等方式改造自有模型，实现深度定制化。 们将 这类模型称为非推理模型。 然而，当前备受关注的 OpenAI o1 和 DeepSeek R1 则代表了推理模型。这类模型以慢速、深思熟 虑、逻辑性的方式运行，通过强化学习训练，在回答问题之前会通过思维链进行“思考”，思考时 间越长，在推理任务上的表现就越好。这种思维方式需要有意识的努力和思考，用于解决复杂问题 或做出深思熟虑的决策。 非推理模型和推理模型各有所长，未来企业需 要同时部署这两类模型，这超出了此前的预期。在 DeepSeek R1 出现之前，企业尚未意识到推理模型的快速发展和广泛应用。当前，企业的算力规划 主要针对非推理模型，而未来则需要同时支持非推理和推理两类模型，因此对算力的需求将显著增 加。 （2）用户数量激增 DeepSeek 的破圈效应相当于对全民进行了一次 AI 普及教育，其影响力远超企业内部的任何一次培 训。预计会有更多央国企员工主动使用

3 图谱问答引擎 图谱问答负责结构化体系化知识的问答，基于知识图谱 Schema 针对具备一定结构关 系 的三元组知识进行快速问答，支持多跳、计算、推理能力，介绍如下： 适用知识 引擎优势 知识结构 模型训练 概念性知识 多维度逻辑推理、属 性识别+匹配，自动 化反问多轮机制 知识图谱三元组知识 结构 属性识别+匹配模型 支持线上训练 2.4 表格问答引擎 表格问答负 表格问答负责结构化二维表结构知识的问答，可基于二维数据表快速抽取表信息形成问 答，支持条件约束及聚合函数计算的问答，介绍如下： 适用知识 引擎优势 知识结构 模型训练 概念性知识 NL2SQL 算法，复杂 函数计算及推理，主 动多轮机制 二维数据表知识结构 表格问答匹配模型 支持线上训练 自动生成训练集 版本：1.0 【公开】 图谱型知识：是指知识之间具备多维关联特点；需要在多维空间里推理计算得出答案。 3.5 如何进行问答引擎的选择？ 上文说到，智能客服体系下不同的知识适配于不同的算法引擎，高效的智能客服系统通 常由多个算法引擎来组成，经过提炼和梳理的知识，需要匹配对应的算法引擎从而产生最佳

成企业知 识库 直接使用 现成的大 模型 模型训练 模型推理 模型应用 模型部署 MaaS（Model-as-a-Service）围绕模型的全生 命周期提供平台能力，以初创企业和开发者为主 要服务群体，提供包括数据标注以及模型由训练、 微调到应用开发等的全方位服务 需求痛点： • AI芯片供不应求+高端芯片禁令 • 训练+推理+持续调优的成本高企 • 算力资源需求的波峰波谷明显 • 算力资源利用率低下 执行任务的过程中感知环境的动态变化，做出适当的反应。至此 Agent在人工智能领域的概念开始萌芽，但尚且没有技术落地。 Agent技术应用相继出现，例如20世纪60年代开始出现专家系统， 通过结合一些领域专家水平的知识和推理机技术，模拟人类专家 完成决策。彼时，社会的计算能力和技术资源有限，Agent相关 技术并未造成重大影响。在20世纪80年代到21世纪，计算能力、 算法、Agent的概念都在不断进步、一些具备“交互”“任务驱 【规划】指AI Agent需要具备自我反思和任务分解的能力 ➢ 自我反思能力的实现方式 • 首先要有反应：一般是使用React方法，使语言模型的推理能力能够根据知识进行计划安排，行 为决策能与外界工具交互 • 其次能自我批评：使用Reflexion框架来提高推理能力，赋予Agent通过语言反馈和短期记忆形成 优化任务目标的二次过程，也即自我反思的能力 ➢ 任务分解能力的实现方式 • 可以通过采