层级 OpenAI 定义推理模型 在 OpenAI 的官网上 ， OpenAI 定义推理 模 型是在回答之前进行思考 ， 并在回复用 户 之前 ，在内部生成一长串的思维链过 程。 思维链是一种提示大语言模型进行逐步推 理的方法。它让模型在得出最终答案之前， 先显式地写出推理的中间步骤。这就像 人 类解决复杂问题时会先把思考过程写 下来 一样 推理模型的核心 也就是说 ，如果模型在回复你之前有一 ，那么有这个能力的大模型就是推 理大 模型。推理模型的核心在于处理那 些需要 多步骤逻辑推导才能解决的复杂 问题 推理大模型 推理大模型的概念大规模传播应该开始于 2024 年 9 月份 2024 年 9 月 12 日 ， OpenAI 官方宣 布了 OpenAI o1 推理大模型 1.4 大模型的分 类 大语言模型可以分为通用大模型和推理大模型 非推理问题 ： ” 法国的首都是哪里 ？ （答案直接 、 无需推导 ） 推理问题： ” 一列火车以每小时 60 英里的速度行驶 3 小时 ， 行驶距离是多少？ ” （需先理解 ”距离 = 速度 × 时间 ” 的关系 ， 再分步计算） 将“推理”定义为通过生成中间步骤来回答复杂问题的过程 2 个简单的例子： 通用的大语言模型（ LLM ） 可能直接输出简短答案（如” 180 英里”） 推理模型的特点在于显式展示中间推导过程

large-scale model service 开发、应用大模型及大模型系统的服务,以及以此为手段提供支持需求方业务活动的服务。 注:常见大模型服务内容包括大模型平台服务、大模型开发定制服务、大模型推理及运营服务。 [来源：GB/T 45288.1—2025，3.2] 3.5 微调 fine-tuning 为提升机器学习模型预测准确性,使用专门领域数据在大模型上继续训练的过程。 注1:专门领 关联关系等）； b) 知识图谱的数据来源宜具有多样性，包括但不限于政务数据库、文档资料、新闻报道等，且应 确保数据的准确性和时效性； c) 知识图谱的构建过程宜具备可追溯性，记录知识抽取、融合、推理等环节的关键信息，便于后 续的审计和优化； T/ISC 0079—2025 4 d) 宜支持对知识图谱进行可视化展示，使用户能够直观地了解政务知识之间的关联关系，辅助决 策分析； e) 知识 宜支持业界常用的数据蒸馏的方法对数据进行增强，以便按应用场景的要求提升数据集质量。 6.2.2 部署推理服务 a) 应具备高性能、稳定可靠的服务器资源，满足大模型的计算和存储需求，提供高速、稳定的网 络资源，确保大模型数据传输的实时性和准确性； b) 应使用稳定、安全的操作系统，具备高效稳定的模型推理引擎，提供完善的数据管理机制，确 保数据的完整性、一致性和安全性； c) 应采用SSL/TLS或

.....................................................................................5 图表 3 数据查找及推理分析................................................................................................. 为政务客户提供“交流能说会道、推理见微知著、创作标新立异、安全固若金汤” 的政务智能新体验。 根据发布会，目前星智政务大模型在包括武汉等几个城市落地过程中。  针对垂直政务领域，实现大模型技术体系全栈优化 基于 70+城市数字化治理实践经验针对政务垂直场景进行全栈优化。星智政 务垂直领域大模型基于政务垂直领域的特点对大模型技术体系进行全栈优化，能 够提供超大规模分布式训练、多框架高性能推理、高性价比算力资源和高效率开 星智政务垂直领域大模型具备面向政务领域内部的命名实体识别、命名实体去歧、 以及政务领域事项推理能力，同时基于 LLM 大语言模型，以数字人“小鲸”为载体， 面向“问政”与“看数”两个场景，满足（1）政务工作人员的政务大屏解读和（2） 基层民众与网格员的政务执行咨询两大方面的数据咨询需求，精准实现面向政务相 关事项的查询、推理、分析以及问答等能力的落地应用。 图表 2 星智政务大模型智慧城市政务大屏

法用户才能访问特定数据。 模型部署方面，选择支持分布式训练的框架（如 TensorFlow 或 PyTorch），并根据政务业务场景对预训练模型进行微调。为提 高模型推理效率，采用模型剪枝、量化和知识蒸馏等技术优化模型 性能，确保在有限硬件资源下实现高效推理。同时，部署模型版本 管理工具，便于模型的迭代更新和回滚。 为保障系统的稳定运行，需建立完善的监控和运维体系：  实时监控：部署 Prometheus 模型层是核心，集成多种 AI 大模型以支持不同政务场景需 求。通过微服务架构，支持模型的动态加载与更新，确保模型的实 时性和准确性。为了提升模型性能，采用 GPU 集群进行分布式训 练，并通过模型压缩技术降低推理时的计算资源消耗。此外，模型 层还提供模型监控和优化功能，支持对模型表现的实时评估与调 整。 应用层负责将 AI 能力与具体政务业务结合，提供包括智能问 答、文档分类、语义分析等功能。通过 API 构，支持跨地域的数据同步和负载均衡。通过自动化运维工具实现 对系统资源的动态监控和调度，确保系统的稳定运行。 以下为平台架构的核心组件及其功能列表： - 数据层：数据采 集、存储、清洗、标注； - 模型层：模型训练、推理、监控、优 化； - 应用层：API 网关、业务逻辑、定制化开发； - 交互层：用 户界面、身份认证、权限管理。 通过上述架构设计，全省一体化政务平台能够高效接入 AI 大 模型，推

X→住建局备案节点 按需 政策-适用对象 税收优惠 Y→小微企业 每日 3. 智能体服务层： DeepSeek 模型通过容器化微服务封装，关键设计要点包括： o 采用模型量化技术将参数量压缩至原版的 30%，推理延 迟<800ms o 对话管理模块内置多轮会话上下文跟踪，支持最长 15 轮 次连贯交互 o 权限控制系统实现字段级细粒度管控，审计日志覆盖全 部 API 调用 4. 应用交互层： 提供三种集成模式适应不同政务场景： 结构化数据通过分布式 ETL 管道处理 o 非结构化数据采用 NLP 预处理流水线 o 缓存机制实现热点数据毫秒级响应 5. 基础设施层 o 混合云部署架构（政务专有云+公有云隔离区） o GPU 推理集群（NVIDIA A100×16 节点） o 分布式存储（Ceph 集群，PB 级容量） 技术实现要点包含： - 采用服务网格实现层间通信，服务发现 延迟控制在 10ms 内 - 智能体交互协议采用 16 核 64GB 内存，CentOS 7.9 4 数据库集群 PostgreSQL 14，SSD 存储 3 负载均衡器 Nginx 1.22 2 DeepSeek 服务节 点 专用 GPU 推理服务器（A100 40G） 2 测试数据采用脱敏后的生产数据副本，覆盖 85%以上的业务场 景数据组合，并通过 Faker 生成边界值数据补充。 核心测试用例设计 1. 接口连通性验证

o 通过迁移学习，针对特定的法律领域进行模型细化，提 升模型在特定背景下的表现。 3. 知识图谱构建模块： o 建立法律知识图谱，将法律条款、案例和相关条文之间 的关系进行可视化，方便模型进行推理和引用。 o 知识图谱不仅有助于提高模型对复杂法律概念的理解， 还有利于实现不同领域间的跨域查询。 4. 应用策略与接口模块： o 为用户提供多种使用接口，如 API 接口、聊天机器人 等 语言， 具备对法律文本的深入分析能力。它不仅能识别并提取法律条文的 结构、意义，还能根据用户的需求生成精准的法律意见书或建议。 此外，大模型能够从海量的法律数据库中学习累计的知识，通过智 能推理为用户提供个性化的解决方案。 功能方面，大模型设计的核心包括以下几个方面： 1. 法律咨询：能够解答用户的法律问题，提供实时的法律咨询服 务，帮助用户理解相关法律法规的条款和适用场景。 2. 这种模型在处理多轮对话、法律问答和自动生成法律文书等方面具 有显著优势。 此外，我们还考虑了混合模型的应用。混合模型结合了规则模 型与深度学习模型的优点，通过初步的规则筛选和深度学习的模式 识别，可以实现更高层次的法律推理与逻辑判断，增强模型的适应 性和灵活性。 为了更直观地理解不同模型的比较，以下表格总结了各模型的 主要特征： 模型类型 适用场景 优点 缺点 基于规则的 模型 简单法律问题处理 高效、准确

最后，训练层提供模型版本管理与发布功能。通过模型仓库 （如 MLflow、ModelDB），对不同版本的模型进行存储、管理和 对比，确保模型的可复用性和一致性。训练完成的模型通过统一的 API 接口发布到模型推理层，供政务应用调用。 以下是大模型训练层的关键技术参数示例： 技术参数 配置说明 硬件架构 异构计算（GPU/ TPU） 分布式训练工具 Horovod、DeepSpe ed 训练框架 AI 模型的训练、推理任务的调度与管理，支 持优先级设定、资源分配及任务状态监控。 - 数据预处理服务：提 供数据清洗、标注、格式转换等功能，确保输入数据的质量符合模 型要求。 - 模型管理服务：实现模型的版本控制、部署、更新及下 架等全生命周期管理，支持模型的灰度发布与回滚。 - 推理服务： 封装各类 AI 模型，提供统一的 API 接口，支持同步与异步推理模 式，确保高并发场景下的服务稳定性。 针对政务办公场景的特点，模型的配置还需考虑以下几个方 面：  数据安全与隐私保护：确保模型训练和推理过程中，政务数据 的安全性，采用数据脱敏、加密传输等措施，防止信息泄露。  模型解释性：政务办公决策需要透明性和可解释性，模型的配 置应支持解释性分析，如注意力机制可视化、特征重要性分析 等，帮助用户理解模型推理过程。  持续学习与更新：政务政策和法规不断变化，模型需支持持续 学习，能够根据最新的数据和政策进行动态更新，保持模型的

2011201220132014201520162017201820192020202120222023202420252026 分类 V3 R1 模型定位 通用型大语言模型 专为复杂推理任务设计，强化在数学、 代码生成和逻辑推理领域的性能。 参数规模 671B DeepSeek-R1671B 满血版 DeepSeek-R1-Distill-Qwen-1.5B DeepSeek-R1-Distill-Qwen-7B 的场景，如智能客服、 内容创作、知识问答 等 科研、算法交易、代码生成等复杂 任务 性能优势 DeepSeek-R1 在数学、代码、自然语言推理等任务上，具有更高的生成 质 量、更快的生成速度、更强的逻辑推理。 成本优势 训练成本低，推理成本更低。硬件资源需求降低。 开源生态 模型，完全开源，不限制商用，无需申请。 7B\8B : 智能客服、轻量级对话助手、编程辅助工具 14B 《党政机关公文处理工作条例》、《中国共产党党和国家机关基层组织工作条例》等文件库 AI 党务内容校对模型在党务内容校对中，既能通过“知识匹配”解决“对不对” ( 合规性 ) 的问题，也能通过“逻辑推理”解决“全 不全” ( 完整性 ) 的问题，更能通过“语义理解”解决“准不准” ( 政治性 ) 的问题，为党务工作的规范化、精准化提供高效支撑。 敏感内容与表述风险排查 格式与体例的规范性校对

多维分 析 自助式仪表 盘 移动协同 移动 APP 协 同决策 格式多变的报表 基于地图自助分析 图形类型自助分析 大屏自助可视化分析 大数据平台 业务系统数据 数据源 训练平台服务 推理平台服务 人 工 智 能 视频图像 识别场景 语音语义 类 AI 场景 预测类 AI 场 景 标签目录管理 标签生命周期管理 数 据 标 签 标签创建 标签更新 标签服务 精准选案 • 打虚打骗 • 精准核查 云 Stack Ascend 310 Ascend 910 昇腾 鲲鹏 云平台 AI 训 练 平台 数据处理 算法开发 模型训练 模型管理 部署推理 一站式 AI 开发平 台 自动学习 AI 算 法 模型 视频 / 图像 / 人 脸 图 像 识 别 人脸 识别 文字 识别 图像 搜索 视频 分析 语音 识别 语音

数据获取 宽表存储 自助式创建数据集 业务系统数据 训练平台服务 推理平台服务 语音语义 类 AI 场景 视频图像 识别场景 数据分析平台 预测类 AI 场景 调用算法 enterprise. huawei. com 数 据 标 签 敏 捷 图谱展示 列表展示 集市展示 版本 管理 更新 配置 enterprise. huawei. com u Huawei confidential u 22 一站式 AI 开发平台 部署推理 AI 训 练 平 台 机器学习 强化学习 深度学习 TensorFlow Caffe PyTorch Keras 自 研 MindSpore SparkML XGBoost TensorFlow