然 语 言 处 理 （ Nat u ral La ng uage Processing ， NLP ）领域中的一类大 模型， 通常 用于处理文本数据和理解自然语言 。 这类大模型 的主要特点是它们在大规模语料库上 进行了训练， 以学习自然语言的各种语法 、语义和语境规则 。 代表性产品包括 GPT 系列 （ OpenA I ） 、 Bard （ Google ） 、 DeepSeek 垂直大模型 L2 是指那些针对特定任务或场景的大 模型 。 它们通常使用任务相关的 数 据进行预训练或微调， 以提高 在该 任务上的性能和效果 3.4 大模型的分 类 按照应用领域的不同 ，大模型主要可以分为 L0 、 L1 、 L2 三个 层级 推理大模型 推理大模型的概念大规模传播应该开始于 2 0 2 4 年 9 月 份 。 2 0 2 4 年 9 月 1 2 日 Gemini 是谷歌发布的大模型 ， 它能够同时处理多种类型的数据和任务 ， 覆盖文本、 图像、 音频、 视频等多个领域。 Gemini 采用了全新的架构 ，将多模态编码器和多模态解码器两个主要组件结合在一起 ， 以提供最佳结果 Gemini 包括三种不同规模的模型： Gemini Ultra 、 Gemini Pro 和 Gemini Nano ， 适用于不同任务和设备。 2023 年

(AI) 行业观察 AI 技术在工业领域的应用，已经贯穿于产品设计、生产、管理、服务等众多环节，它主要通过各种方式收集海量数据，然后 利用机器学习和统计模型对数据进行分析，并依据数据分析结果辅助决策，帮助企业优化资源配置，提质增效，节省成本。 具体来看，AI 技术在工业领域的应用主要在以下几大方面： 研发与规划 • 需求分析与预测：基于历史数据和机器学习算法，构 建预测模型，通过分析大量用户数据和市场趋势，洞 能、潜在故障等，预测产品性能表现，进一步指导 设计改进。 1.2 工业 AI 的应用范畴 04 01 工业人工智能 (AI) 行业观察 生产过程管控 在生产过程管控方面，AI 技术的应用主要集中在提高生 产效率、优化资源配置、增强质量控制和实现生产过程 的自动化与智能化。具体包括： • 设备管理： 在设备入库管理方面，AI 通过深度学习识别设备上的 条形码、二维码或设备特征，自动读取设备信息如型 还可以通过添 加新的层或修改现有层的结构，来扩展大模型的功能和性能。 1.3 工业大模型 1.3.1 大模型 06 01 工业人工智能 (AI) 行业观察 具体来看，工业大模型主要通过以下四种核心能力，为工业应用赋能： 1.3.3 工业大模型的应用范畴 第一，语言理解与知识问答能力。 利用大模型对于自然语言的理解能力，能理解和识 别用户意图，使员工能通过自然语言就能与机器进

DeepSeek-R1 \ Kimi 1.5 及 类强推理模型开发解读 北大对齐小组 陈博远 北京大学2022级“通班” 主要研究方向：大语言模型对齐与可扩展监督 https://cby-pku.github.io/ https://pair-lab.com/ 2 Outline ➢ DeepSeek-R1 开创RL加持下强推理慢思考范式新边界 ➢ DeepSeek-R1 Zero Pipeline 总览 ➢ 拒绝采样和全领域SFT Rejection Sampling and SFT ➢ 当上一个阶段的RL收敛之后，再进行SFT ➢ 和之前Cold-Start 的数据不同，这部分SFT主要是负责全领域 任务 ➢ 600k 推理任务：(1) 基于规则的奖励 (2) 利用批判模型融 合生成式奖励 ➢ 200k 通用任务 (writing \ role-playing \ general-purpose) 据中的Pattern, 很难学习到数据背后的数学规律和MetaCoT ➢ 强化学习则是通过试错和尝试，鼓励模型在最大化奖励过程中学习到推理背后的规律，获得的泛化性和推理 表现上界更高 ➢ SFT 主要负责记忆而很难进行OOD泛化，基于ORM的RL泛化能力较好 [1] ➢ SFT规范模型输出格式，使得后续的RL可以获得更高的收益 ➢ 随着强推理能力复现的兴起，社区也有很多工作比较 LongCoT

大数据技术 25 大数据 创 新 教育舆情监测与剖析 教育信息化与现代化发展水平评估 教育机构布局与教育经费调整 学生的发展性评价 基于大数据的科学研究 26 云计算 • 云计算中的“云”主要用来强调计算泛 在性和分布性，实质上是分布式计算、 并行计算和网格计算等技术的发展。 • 将分布在各地的服务器群进行网联， 能够实现大规模计算能力、海量数据 处理和信息服务的需求。 27

差异三：基础能力差异导致支持完备度不同 基础库、加速库、三方库等支持情况不同 跨架构时需通过引入、适配第三方库，或者开 发基于自身架构的对等库来解决库的差异问题 计算架构 支持的主要基础库 / 加速库 昇腾 DVPP/AIPP/mxVision/ ACLNN/ACLBlas 等 英伟达 Codec SDK/CV-CUDA/ cuDNN/cuBlas/DALI 等 GPU