大泛化能力，可在不进行微调或少 量微调的情况下完成多场景任务， 相当于AI完成了“通识教育” 通用大模型L0 是指那些针对特定行业或领域的大 模型。它们通常使用行业相关的数 据进行预训练或微调，以提高在该 领域的性能和准确度，相当于AI成 为“行业专家” 行业大模型L1 是指那些针对特定任务或场景的大 模型。它们通常使用任务相关的数 据进行预训练或微调，以提高在该 任务上的性能和效果 总 结，大大降低了知识管理的落地门槛 知识管理 数据分析是企业决策的重要依据。大模型技术通过引入编 程能力，可以大大降低数据分析成本。然而，目前大模型 在特定业务场景下的效果仍需优化，模型微调是一种解决 办法 数据分析 在软件开发领域，大模型技术可以作为编码助手，提升工 程师的工作效率。通过AI编程助手，减少了重复劳动，提 升了代码质量 编码助手 4.3 企业大模型的部署方式 DeepSeek 大模型 —— 让企业拥有 “数字大脑” 厦大团队两本数据治理书籍 4.5 企业部署大模型规划路线 构建企业内部知识库 （RAG系统） 短期（0-6月） 开发行业专属大模型 （模型微调） 中期（6-18月） 搭建AI Agent工作流 （企业智能体） 长期（18月+） 4.6 企业级应用集成AI大模型的关键步骤 企业首先需要明确AI应用的具体场景，如文 本生成、情感分析、图片理解和生成等。这

NLG+NLU：语言理解、语言表达（包括温度和情商） • 人类语言、代码语言、XX语言 2. 知识能力：海量公开知识，言之有物，GPT-2时达到 • 顺带学习（基座模型）：文字中蕴含了知识 • 压缩：幻觉 • 遗忘：微调（迁移学习），尤其是RLHF 3. 推理能力（涌现）：一般需要10B以上，GPT-3时达到 • 模仿学习：代码中蕴涵、文字中蕴含 • 提示能力：ICL • 思考能力：CoT  ReACT，Agent 神经网络与深度学习 大模型应用开发 图像识别与机器视觉 深度学习与NLP实践 大模型微调技术 语音识别技术 专业 选修课 人工智能伦理 知识表示与处理 机器人技术与应用 智能硬件与应用开发 AI认证工程师课程 集中 实践课 Python算法综合实践 模型训练创新实践 大模型微调综合实践 人工智能综合实践 Python程序设计综合实践 大模型应用开发综合实践 大 模 型 指 令 实 训 系 统 大 模 型 微 调 实 训 系 统 大数据技术与应用 模式识别与机器学习 人工智能专业课程体系（本科） 神经网络与深度学习核心算法 大模型微调技术，优化算法性能 设计开发算法模型，解决实际问题 AI工程方向 AI项目全栈开发 大模型应用开发与深度学习实践 解决复杂AI应用场景中技术问题， 提升产品智能化水平。 AI开发方向

1.17 亿参数 无监督预训练 + 有监督微调 2019 GPT-2 15 亿参数 半监督语言模 型效果验证 2020 GPT-3 1750 亿参数 超大模型 2022 年初 InstructGPT 13 亿参数 人类反馈强化学习 2022 年 12 月 ChatGPT 基于 GPT-3.5 微调后 用 来改进 GPT 语言 模型的 聊天机器人 收集比较数据并训练奖励模型 采样问题，模型输出 问题的多个回答 人工对多个答案进行 排序 使用排序比较数据训练 奖励模型 从问题数据集中抽取 问题 人工标注期望的答案 使用有监督的数据微调 GPT-3 ChatGPT 训练过 程 第一步 收集示范数据并做有监督训练 第三步 1 1 What technology wants ？ 1 2 What you wants

中小银行可二次开发， 打破技术垄断壁垒。 强 大的社区支持，加速功 能迭代与问题解决。 本地化部署优势 多个尺寸开源模型支持 私有化部署，满足金融 数据安全与合规要求， 如江苏银行本地化微调 案例。 性能与成本双赢 DeepSeek 在保证高性 能的同时，显著降低银 行技术成本，加速 AI 普及。 热度传播路径 捧上天 • 拳打 ChatGPT ，脚 踢 Gemini 低成本模型赋能 DeepSeek 的低成本特性，使中小银行无需巨 额算力投入即可享受先进 AI 技术，显著降低技 术门槛。 资源差距缩小 开源生态让中小银行能与大行站在同一起跑线， 通过微调模型适应自身业务，提升竞争力。 创新空间扩大 技术平权激发中小银行创新活力，利用 AI 优化 服务，降本增效，大量内部汇报材料的编写， 低成本的部门级知识库等。 挑战与未来展望 05 风险与争议

，助力中国在全球科技竞争中 抢占先机。 10 全部参数激活，高能耗 OpenAI 等传统模型在运行时通常需要激活全部参数， 能耗巨大 模型调整强依赖标注数据 传统方式往往需要大量标注数据来监督微调（ SFT ）， 耗费大量人力和时间成本，且数据标注质量也会影响 模型性能。 任务精准分配，大幅降低能耗 依靠稀疏混合专家模型（ MoE ）架构，仅需激活 5%-10% 的参数，将任务精准 AI 原子能力 多模型支持与集成 典型应用场景 全流程支持 可视化编排 构 建 应 用 发 布 应 用 16 角色 大模型（如 DeepSeek ） 小模型（垂直场景微调） 定位 复杂决策、跨域推理、创意生成 高频执行、实时响应、资源节约 典型场景 保险方案定制 跨部门风控分析 客服意图识别 表单自动填写 资源消耗 高算力、周期性调用 低延时、 7x24 小时运行

算力集群“鹏城云脑”，在昇腾超节点的支持下，“鹏城云脑”的训练效率将大 幅提升，原本 MoE 模型训练需要 3 周时间，借助昇腾 384 超节点，时间将压缩至 1 周；基于昇思 MindSpore 进行了高性能的监督微调和 GRPO 强化学习训练框架的构建，发布开源数学推理模型 PCL-Reasoner-V1，率先突破大模型强化学习技术全栈壁垒，相关研究成果在国际顶级学术会议 中发表，展现我国人工智能算法创新能力。同时，昇腾 使能中国电信根据业务场景灵活配置资源及并发策略，最大限度发挥系统性能，有效服务于复杂推理、 多智能体协同等新场景；同时，中国电信基于自研星辰大模型、DeepSeek 等业界前沿基础大模型， 逐步探索预训练、强化学习、微调等技术创新。目前，智算昇腾超节点服务产品已基于中国电信“息 壤”一体化服务平台在天翼云官网上线，面向互联网企业、大模型厂商、科研 / 教育 / 医疗创新机构、 央国企等提供低延时、高吞吐的算力服务。 于昇腾大规模专家并行技术系统级优化，实现超高的系统吞吐性能，满足各业务部门的高并发 AI 服 务调用需求。 在制造业场景，行业头部客户已规模部署昇腾 A3 超节点，通过深度优化，超节点在模型训练及 微调中的性能表现比传统 AI 服务器产品提升 2.5-3.5 倍，客户通过采用昇腾超节点的分布式并行切 分策略，算力利用率（MFU）也由 37.3% 提升至 55.9%。后续超节点将作为企业智能化升级的强

通过强化学习架构创新实现突破性性能，核心技术创新体现在训 练效能优化策略、双维度评价体系、 结构化训练范式三个维度。 DeepSeek-R1 采用分阶段强化学习架构演进，包括冷启动阶段、面向推理的强化学习、拒绝采样 与监督式微调、全场景强化学习等。 l AI 应用爆发在即，算力需求持续攀升，关注 ASIC 及服务器产业链。 Scaling Law 与“涌现”能力是大模型训练遵循的重要法则，随着 ChatGPT 引领全球 AI DeepSeek-V3 技术报告，国信证券经济研究所 整理 l DeepSeek-R1-Zero ：通过强化学习架构创新实现突破性性能。该模型突破性地采用纯强化学习 (RL) 方法，未经过传统监督式微调 (SFT) 即达成卓越性能表现，在特定任务基准测 试中实现对 OpenAI-o1 的超越。其核心技术创新体现在三个维度： 1 ）训练效能优化策略。创新性采用 GRPO( 群体相对策略优化 ) 示范数据进行模型初始化，有效缓解基础模型在初始训练阶段的波动性。 2 ）面向推理的强化学习。和 DeepSeek-R1-Zero 方式相同，但引入了语 言一致性 奖励，对推理密集型任务进行特别优化。 3 ）拒绝采样与监督式微调。使用已训练的 RL 模型来生成新的训练数据，通过构建推理数据和非推理数据提升模型的通用能力。 4 ）全场景 强化学习。为了同时平衡推理能力和通用能力，将不同类型的奖励机制有机结合，再次进行强化学习。

。 3.2.4.云边协同训推需求 大模型训练与推理成本的显著降低，带动企业通过本地部署少量 训推一体机实现大模型的快速应用。但是，企业本地算力池面临扩容 难、维护成本高等问题，难以满足大模型微调和推理不断增长的算力 需求。因此，通过企业本地算力与云端租赁算力之间的高效协同，以 满足企业算力资源灵活扩展需求，成为更高效、便捷且兼具性价比的 方案。云边协同训推方案基于 Split Learning 同训练的算效。  智能运维：通过业务流级可视、逐包故障定界等技术，实现业 务流级的故障定界定位。 7.4 云边协同训推场景 企业本地部署训推一体机，通过租赁运营商智算池的方式应对企 业快速增长的模型微调、业务推理对算力需求。通过训推一体机与算 力资源池之间的云边协同训练/推理，实现企业算力资源的弹性扩展， 云边协同训练/推理基于模型分割实现，这种方式既满足了企业推理/ 训练敏感数据不出园区的要求，又满足企业算力的灵活扩展按需租赁

实际需要的范围内收集和使用数据，以达到特定的训练目标。 ● 知情同意：《通用数据保护条例》要求在收集和处理用于训练生成 式人工智能模型的个人数据时获得用户的明确同意。这可以确保个人了解其 数据将如何被使用（例如，用于模型训练或微调），并有权拒绝。人工智能 开发者必须为那些数据被人工智能/机器学习系统处理的个人提供行使这些 权利的便利。 ● 透明度：欧盟的个人对其个人数据享有访问、更正、删除、限制处 理和数据可携性的权 ● 商业许可：开发和部署生成式人工智能模型的公司需要精心设计许可证保 护其知识产权，同时允许商业使用。与合作者和用户签订的合同协议应明确界定所 有权、使用权和责任。 ● 数据许可：获取用于训练和微调人工智能模型的数据的适当许可是避免侵 犯版权和违反隐私的关键。值得注意的是，根据使用的具体数据类型，还可能引发 ©2025 云安全联盟大中华区版权所有 58 其他法律问题，例如商业秘密的不当使 ，从而更 容易识别和减少潜在的偏差或错误 定期监测和再训练 定期监测模型的性能，并利用更新或整理的数据对其进 行再训练，以解决潜在的问题，如偏离偏差或生成不准 确的输出。 超参数调优 微调模型的超参数（控制其学习过程）可以影响输出结 果，并有可能减轻意外后果。 持续监测和评估 定期审计和评估模 型使用的数据 确保数据符合预期目的，不保留不必要的数据 监控模型的输出结 果，防止出现潜在偏

嵌入 模型及优化检索结果的重排模型，形成灵活智能基础。 ③上层（应用）：核心是本地化部署的 RAG 应用 平台，确保业务数据在行内处理，杜绝信息泄露风险。 大幅减少对资源消耗巨大的全量模型微调依赖，转 向以工作流编排为核心，辅以提示词工程、RAG 技术 及轻量级自定义组件开发，低成本实现场景适配。 ①精细化工作流编排：拆解、串联复杂任务。 ②深度提示词工程：引导模型按照用户要求进行分 风险动态监测体系，增强风控能力。 九江银行：全国中小微企业资金流信用信息共享平台在九江银行的落地实践 ——中国农业银行科技与产品管理局副总经理 李树尉 34 该项目创新性地采用私域金融 LLM 微调技术，结合多 Agent 协同的智能投研 Copilot 架构，在金融大模型垂 直应用领域取得重要技术突破。在提高运营效率的同时有效降低了成本，为金融机构的数字化转型提供了创新性 的技术支撑。 （该案例在“鑫智奖·2025 第六届金融机构数智化 转型优秀案例评选”中荣获“网络影响力 TOP10 优秀 案例奖”和“大模型创新优秀案例奖”） 扫码查看完整案例 模型工厂一体化开发，搭建集大模型训练、微调、 测试、部署于一体的开发平台，支持自定义 Agent 工 作流编排（如人工预设流程或基于意图理解的智能规 划），降低技术门槛，加速业务落地。多场景智能化服 务，覆盖投顾业务全链条。 提升投资决策效率：多智能体系统可并行处理海