................................................................................... 11 3.2. 模式二：微调 .................................................................................................. 大模型的构建可以分为两个关键阶段，一个是预训练阶段，一个是微调阶段。预 训练主要基于大量无标注的数据进行训练，微调是指已经预训练好的模型基础上，使 用特定的数据集进行进一步的训练，以使模型适应特定任务或领域。针对工业大模型， 一是可以基于大量工业数据和通用数据打造预训练工业大模型，支持各类应用的开发。 二是可以在基础大模型上通过工业数据进行微调，适配特定工业任务。三是可以在不 改变模型参数的情 式的缺点是需要大量的 高质量工业数据集，以及庞大的算力资源，对成本和能力的要求较高，面临技术和资 源的巨大挑战。在最终应用前，无监督预训练工业大模型与 GPT3 类似，同样需要通过 适当的指令微调、奖励学习、强化学习等阶段，形成面向最终场景的应用能力。 SymphonyAI 3推出了基于无监督预训练的工业大语言模型，该模型的训练数据包 含 3 万亿个数据点，12 亿 token，能够支

2 大规模预训练技术.......................................................................... 34 2.2.3 模型微调与优化.............................................................................. 35 2.2.4 模型部署与运维 需求进行调整和优化的过程。由于不同工业行业和任务具有独特的特点和要求， 如机械制造行业对产品精度和工艺要求严格，电力行业对设备运行稳定性高度 关注等，需要通过添加特定行业数据、引入领域知识以及采用合适的微调算法， 使模型更好地适应这些独特需求，提升在特定工业任务和行业中的性能表现。 1.1.3 工业数据制备 这是工业大模型构建的第一阶段。工业数据具有异质数据模态的特点，包 括 CAX 模型 守恒定律：能量、质量等物理量的守恒关系 ➢ 因果时序：设备退化过程的不可逆特性 ➢ 边界条件：工艺参数的安全阈值限制 ➢ 不确定性传播：测量误差的链式传导效应 1.2.2 模型架构 ◼ 混合架构 主流架构呈现"预训练+微调+物理嵌入"的混合模式： ➢ 基础层：基于 Transformer 的通用特征提取 ➢ 领域适配层：融入设备动力学方程、材料本构模型等机理知识 ➢ 任务特定层：面向检测、预测、优化等场景的轻量化模块

石油石化生成式AI/大模型业务需求空间与发展方向-资源开发 很低 较低 中等 较高 很高 生成式AI/大模型需求空间 �� 生成式AI及大模型可聚合业务上下文逻辑数据训练奖励模型（RM），并用强化学习（RL） 方式微调模型，结合多模态交互，推动智能勘探大模型具备更艰巨井下环境中的智能复杂任务处 理能力，进而打磨已有的通过传统监督机器学习得到的模型，推动勘探业务突破操作效率和模型 安全的瓶颈。此外，资源开发业务 型具备较强的学习共性，可将大数据及特定领域标注数据融合起来，实现具备微调能力的小模 型，进而在智能生产所需的精细化机理和调度模型优化中发挥数学推理的关键作用；其次，BERT 等双向模型的测试与石化探索将增强前后文的交互性，解决石油石化耦合数据较多的专业化难题 及可解释性问题，进而支持海量预料数据的自监督学习及任务的迁移学习特性，满足后续特殊任 务微调及特征提取，在协同调度和预测性分析工作中提供超出传统人工智能的推理分析能力及更 速石油石化产业中信息技术 （IT）与操作技术（OT）的融合，通过多模交互能力的补充，加速异构和非结构化数据的整合与 训练计算。最后，预训练模型可增强物联网设备的指令理解能力，预训练好的模型可通过微调 （Fine-Tuning）方式适配各类NLP任务，提高智能生产大模型人机交互效率，减少管理层面的信 息不对称，从而显著提升炼化生产的运营效率。 来源: 石化盈科&IDC ����年 图��

跨工厂知识迁移 形成垂直领域模型商店 催生工业提示词工程师 28.9% 15.6% 6.7% 4.4% 6.7% 与外部厂商共建，联合研发 使用外部厂商成熟产品 行业通用大模型+微调 自建大模型 44.4%的企 业倾向于通过 联合研发或使 用外部成熟产 品拥抱大模型 企业拥抱大 模型的方式 企业对大模型的期望 企业拥抱大模型的方式 针对大模型的期望，企业重点关注大模型本 数据分析：数据预处理、特征工程等 • 数据应用：工业机理模型沉淀、可视化等 华为、阿里、百度、 腾讯、智谱AI等 模型 相关 服务 知识图谱 以通用大模型能力为基础，直接提 供具体的大模型产品及服务，或者 通过微调、RAG等，形成新的大模 型服务，并融入现有产品中 模型开发、训练、评估、调优、压缩、管理、调 用、部署等 场景 相关 服务 • 研发设计：辅助设计、仿真模拟/数字孪生 为企业运转的各核心环节、核心场 物流 财务 管理 其他 项目 管理 安全 管理 主要功能或目的 助力企 业找到 优势及 痛点， 做好转 型规划 通过数据 收集、治 理等工作， 做好数据 准备与沉 淀，将数 据资产化 通过微调、 RAG等方 式将大模 型的能力 应用于企 业各个场 景，如辅 助代码 -产品、工艺、 车间/产线设计 辅助 -产品、工艺、 车间/产线仿真 优化 -敏捷协同研发 -供应商管理 -原料采购&产成

等，统一分析类、优化类、控制类、培训类等工业应用，统一传统的建模过程，全面简化 技术体系，有效应对复杂工业场景；2）跨装置：TPT 汇集不同装置的海量数据进行联合预 训练，学习了工业装置运行的通用规律。通过少量微调或零微调，即可在不同装置和工况 间复用，表现出惊人的跨装置、跨工况的适配能力；3）高可靠：TPT 相较于传统 AI 模型， 更能精确匹配生产现状，包容性更强、可靠性更高，可直接控制装置实现闭环运行，保障

址、系统要求等通用要求标准；基于区块链的工业互联网平 台架构、工业数据存证等平台管理标准，面向行业及典型场 23 景的供应链管理、生产溯源、质量可信管理等服务应用标准。 下一步建设重点 人工智能标准。推动工业领域大模型预训练、微调、推理、集成、部署等环节技术 要求，大模型性能测试与评估要求，生成内容评价与管理要求等工业大模型标准研制。 大数据标准。推动智能制造过程中产品全生命周期的数据描述与表达、权限分配、 分类分级等

确排放的基准线，理清园区排放的来源和类型。其次应当根据基准线，制定合理的目标与路 径，基于自身禀赋和市场环境，梳理中长期可落地且对业务和经济发展影响较小的方案。 在中长期来看，应当保持基本目标和路径的一致，但根据实际情况不断微调迭代，在政策、战 略、运营、技术和组织层面层层推进。 规划过程中，可以积极与市场中专业的组织、机构互动和配合，汲取国内外先进经验，取长补 短，力图在可行性、先进性以及经济性层面都能找到较优的方案。

前程无忧、BOSS 直聘、智联招聘、58 同城、赶集网等所有主流招聘渠道，此外，HR 也可以自定义其他招聘网站等，因此 同个岗位信息，就能一键多渠道发布，不用重复操作。相似岗位的岗位说明等，也能基于系统的记忆功能，微调即可，不用 重复输入。 用 HR 系统就选懂业务的 i 人事 �� �� 实践 拥抱数字化，用数据分析为业务赋能 在 20 世纪 90 年代，明珠家具就开始信息化改造，并引进 IBM 进