idc -企业AI开发与技术实践白皮书-立足GenAI时代 构建企业智能化发展新格局

微信扫码，打开到小程序

立足GenAI时代 构建企业智能化发展新格局 ⸺ 企 业 AI 开 发 与 技 术 实 践 白 皮 书 第一章 GenAI时代，智能化发展新格局 1.1 大模型能力持续进阶，为企业数智化发展带来无限想象力 1.2 多方合力助推大模型与行业加速融合 1.3 智能体重塑企业，深度影响未来企业发展模式 第二章 企业智能化实践基础和关键行动 �.� GenAI时代企业智能化发展的挑战 2.2 企业智能化实践的技术基础和未来趋势 2.3 拥抱智能体，将大模型的能力转化为创新行动 第三章 把握智能化转型的关键窗口期 构建企业AI开发全流程能力体系 3.1 企业智能化转型应该具备的关键能力 3.2 不同类型的企业AI落地路径选择及关键行动 3.3 企业AI持续进阶之路 第四章 移动云全栈智算体系助力Gen AI落地 4.1 初级⸺AI行业智能体 4.2 入门级⸺模型广场 4.3 增强级⸺知识库/智能体编排 4.4 进阶级⸺模型精调微调 4.5 专业级⸺大模型预训练+全链路监控 结语 目录 �� �� �� �� �� �� �� �� �� �� �� �� �� �� �� �� �� �� �� 第一章 GenAI时代 智能化发展新格局 �� 1.1 大模型能力持续进阶，为企业数智化发展带来无限想象力 大模型作为新一代人工智能发展的核心驱动力，正以快速演进的态势引领GenAI迈向全新发展阶 段，并在企业数智化转型进程中展现出强大的生命力和变革潜力。 大模型的快速、持续进化，使其受到越来越多的企业用户关注。不同领域的企业都在积极引入大 模型能力提升当前业务应用的智能化水平，并全面赋能面向未来的创新业务场景。在这个过程 中，大模型能力的进化和提升主要体现在以下方面： 性能快速提升：大模型的参数量级持续攀升，并引入更高效的注意力机制、动态网络架构及 混合专家模型（MoE），使大模型拥有了更为复杂和多样化的认知架构。同时，通过在数据 层面构建高质量、多模态、多领域覆盖的训练数据集，以及引入人类反馈强化学习（RLHF） 等持续学习技术，使模型在适用性、准确率、推理效率、安全性等方面都实现了快速上升。 多模态能力发展：突破了单一文本处理的局限，实现文本、图像、视频等多种模态信息的有 机融合与协同处理。通过持续优化跨模态信息融合机制，大模型能够更精准地捕捉不同模态 数据间的语义关联，实现多维度信息的互补与协同，并从简单的模态转换升级为复杂场景下 的多模态推理与创作，提升信息处理的全面性与准确性。 功能的多元化：功能拓展也是大模型演进的重要体现。目前，大模型赋能的需求分析、代码 生成等功能已经日臻成熟，使大模型成为软件开发领域的重要辅助工具。同时其强大的逻辑 推理能力可为复杂决策问题提供科学合理的解决方案，助力企业在激烈的市场竞争中做出更 加科学、精准的决策。 2025年，主流厂商的技术突破为大模型的普及与应用带来了历史性的转折。成本的显著降低使得 大模型的应用范围得以大幅拓展，并有效打破了技术应用的壁垒，使更多企业和机构能够参与到 大模型应用场景的共创活动中。其开源策略的实施则进一步促进了大模型的广泛传播与深度应 用，吸引了全球范围内众多开发者的积极参与，激发了生态创新活力，开启了大模型生态繁荣的 新时代。2025年，Manus的出现则标志着大模型能力开始真正走向普惠大众。它具备广泛的场景 适配性，能够灵活应用于教育、医疗、金融、娱乐等众多领域，满足不同行业和用户的多样化需 求。同时，支持个性化定制服务，可根据用户的特定需求进行精准优化和调整。更为重要的是， 其操作界面简洁友好，用户无需关注底层软硬件的复杂配置和资源优化问题，因而使用门槛大幅 降低，普通用户也能轻松享受到大模型带来的便捷与高效。 �� 1.2 多方合力助推大模型与行业加速融合 目前，大模型正在以前所未有的态势加速与各行业的深度融合进程，成为推动产业智能化升级和 变革的核心驱动力，在面向企业（To B）和面向消费者（To C）的多元场景中展现出独特的应用 价值与潜力。其中，通用大模型作为跨领域应用的基础形态，具备广泛的适用性和强大的泛化能 力。行业大模型则聚焦于特定行业的深度应用需求，为金融、医疗、制造、泛政府等关键领域带 来颠覆性的变革。 算力、数据、应用等领域的协同发展，为大模型的快速进步提供了高质量的保障，推动大模型与 行业加速融合： 训推算力需求持续增长：训练算力的规模效应（Scaling Law）仍在发挥作用，超大规模模型 被广泛研究，同时算力需求向灵活适配、高效安全调度提出更高要求。推理算力也进入爆发 期，公有云、一体机成为主要服务形式。 数据智能和数据治理与隐私保护成为关注重点：IDC调研数据显示，为提升企业AI就绪度， 企业2025年关注数据层面的问题，其中数据智能（含数据质量、编目等）以51.6%的受访者 关注度位居数据层面关注领域首位，远超其他选项。数据治理与隐私保护（38.0%）、数据 现代化（37.9%）紧随其后，数据合成（31.2%）也获得三成以上关注。 数据来源：IDC ����年企业AI就绪度调研 N=��� 图1 为提升组织的AI就绪度，2025年您所在的企业在数据层面最关注的领域有哪些？ 数据智能 数据质量、数据编目、 数据血缘、元数据与主数据 数据治理与隐私保护 为敏感数据添加标签 并应用相关策略 数据现代化 混合式 / 云端数据湖、 数据湖仓、数据仓库或数据库 数据合成 数据清洗、数据标注、数据转换、 数据分析与向量嵌入 事件流处理 实现实时洞察与 实时推理 合成数据集创建 生成用于模型训练的 隐私保护数据 以上都不是 ��.�% ��.�% ��.�% ��.�% ��.�% ��.�% �.�% ��.�% ��.�% ��.�% ��.�% ��.�% ��.�% �.�% �� 算法、模型进入创新爆发期：模型能力快速发展，多个类型智能体的快速落地成为模型发挥 效力的关键举措，但当前的技术和服务能力仍有待提升。 模型规模增长与技术创新并行：大模型规模仍在持续创出新高，但同时新的技术范式出现， 降低后训练和蒸馏门槛，推动模型效果提升和AI普惠，激发AI应用快速普及。 IDC的中国智算基础设施服务市场预测数据显示，GenAI IaaS需求维持高位增长，2024-2029年间 GenAI IaaS训练需求的年复合增长率为30.8%, 推理需求的年复合增长率更是高达89.3%，表明智 算基础设施底层增长逻辑仍在持续。而与此相对应的其他AI IaaS即传统AI的需求继续下降。 从加速服务市场数据来看，IDC预计中国加速服务器市场在2025-2029年间会持续保持高速增长， 年均复合增长率保持在30%左右。同时，在加速服务器的工作负载中，推理任务占比相较训练任 务将快速增加，到2029年将超过70%。 图2 中国智算基础设施服务市场预测 数据来源：IDC，中国智算服务市场跟踪研究，2024H� 百万人民币 中国智算基础设施服务细分市场预测，2024-2029 细分市场结构变化，2024-2029 其他AI IaaS 其他AI IaaS GenAI IaaS训练 GenAI IaaS训练 ����-���� CAGR GenAI IaaS推理 GenAI IaaS推理 ���,��� ���,��� ���,��� ��,��� ��,��� ��,��� ��,��� � ���� ���� ���� ���� ���� ���� ���� ���� 其他AI IaaS -�.�% GenAI IaaS 推理 ��.�% GenAI IaaS 训练 ��.�% ��.�% ��.�% ��.�% �.�% ��.�% ��.�% �� 1.3 智能体重塑企业，深度影响未来企业发展模式 中国MaaS市场快速发展。IDC中国MaaS市场追踪数据显示，2025年上半年，MaaS市场规模达到 128.76亿美金，相比于2024年上半年增长了421%。在大模型迅猛发展的大背景下，智能体（AI Agent）应用快速兴起，并颠覆了传统的软件开发和业务创新模式，助力企业构建面向未来的软 件开发新范式。 图3 中国智算基础设施服务市场预测 数据来源：IDC，����年中国智算服务市场跟踪研究 中国加速服务器市场规模预测，2025-2029 加速服务器按工作负载拆分（训练 vs 推理），2024-2029 IDC预测到2029年加速服务器出货量将达272万 IDC预测到2029年加速服务器市场将达1003亿美金 AI 推理服务器占2024年总体市场的61.7%，2029年将增长至73.9% 训练 推理 市场规模 单位:百万美金 年增长率 ���,��� ���,��� ��,��� ��,��� ��,��� ��,��� � ��% ��% ��% ��% ��% ��% �% ���% ��% ��% ��% ��% ��% ��% ��% ��% ��% �% ���� ���� ���� ���� ���� ���� ���� ���� ���� ���� ���� ��.�% ��.�% ��.�% ��.�% ��.�% ��.�% ��.�% ��.�% ��.�% ��.�% ��.�% ��% ��% ��% ��% ��% ��% �� IDC通过对企业用户的访谈，发现智能体带来的主要变化包括： 交互式开发和快速迭代：改变传统软件的线性开发流程，使企业能够快速响应市场和用户需 求的变化。开发人员能够通过交互式开发模式，利用大模型强大的分析和决策支持能力，自 动化完成需求分析、架构设计以及代码编写、测试等工作，并依据即时反馈迅速对开发方向 和功能模块进行优化调整，大幅缩短软件开发周期，并显著提升软件的适用性和灵活性。 交互式软件形态：改变传统的多级菜单操作模式，使用户不再局限于被动接受软件预设的功 能，而是可以通过与智能体的深度互动，实现个性化的软件体验。软件功能和流程能够紧密 围绕实际业务场景进行构建，依托实时数据进行深度分析和精准优化，帮助企业实施数据和 业务驱动的、更具针对性的解决方案。 普惠开发能力：智能体大幅降低了软件开发的门槛。基于大模型的智能化开发工具和平台， 非专业开发人员也能够借助简单易用的界面和模板进行软件创作，不仅有利于企业业务人员 更快速地实施业务创新，也有望培养具备跨领域知识和技能的创新型人才队伍，促进业务的 多元化发展。 在推动软件开发模式变革的同时，智能体也在推动产业生态繁荣方面发挥着关键作用，重塑未来 企业的协作模式，引领全行业共同迈向智能化和可持续发展的新时代。 应用场景拓展：智能体凭借其强大的学习能力和环境适应能力，已在多个行业迅速与传统业 务进行融合，有效缩短了开发周期，降低试错成本，加速企业的创新进程，为生态企业开发 新产品、新服务提供了广阔的空间。 算法和模型优化：智能体在海量数据的持续助力下，能够自动开展数据挖掘、模式识别和知 识推理，不断发现数据中的潜在规律和价值信息，这有助于建立算法和模型的共创机制，让 相关企业围绕数据集、模型和业务优化开展广泛合作。 跨领域技术融合：智能体将视觉分析、人机交互、多模态等前沿技术有机整合，打破了传统 技术之间的界限和壁垒，创造出更加智能、高效、便捷的应用解决方案，这有望进一步推动 跨领域企业的合作，为创新型企业拓展新的业务领域。 业务和商业模式创新：企业可以基于智能体的技术优势，开发出全新的产品和服务，探索多 元化的盈利模式。例如利用智能体开展个性化营销，通过精准分析用户的偏好和行为习惯， 为用户提供定制化的产品推荐和服务方案，实现商业价值的最大化。 第二章 企业智能化 实践基础和关键行动 �� �.� GenAI时代企业智能化发展的挑战 在GenAI重塑智能化发展格局的汹涌浪潮中，企业智能化转型正在步入深水区。伴随着快速的技 术迭代与场景创新，企业将面临在战略、技术、数据、应用、人才层面的多重挑战。企业需要着 力思考如何突破这些瓶颈，构建技术驱动与业务增长协同的智能化生态，以赢得未来激烈的市场 竞争。 战略层面缺少规划、盲目跟风 企业在面对GenAI的迅猛发展态势时，普遍面临战略定位不清晰 的问题。很多企业受行业趋势和竞争压力的影响，仓促上马大模 型项目，导致技术选型与业务需求脱节，且配套算力、平台建设 存在严重的资源闲置与浪费。一方面，企业过度追求模型参数规 模，忽视资源条件和业务适配性，形成过度投入；另一方面，缺 乏数据治理与场景验证机制，使大模型能力难以融入核心业务流 程，沦为简单的展示工具。 数据质量与安全缺乏保障 企业普遍面临数据质量与安全的双重治理难题。训练数据质量不 佳，行业知识覆盖不足、标注逻辑不一致，或存在长尾场景缺失 等结构性缺陷，直接导致模型泛化能力受限，甚至引发安全风 险。同时，数据隐私泄露与模型安全攻击成为智能化应用普及的 关键阻碍，威胁业务连续性。多数企业在部署模型的同时，缺少 对输入输出的安全检测能力，无法确保模型应用的合规性。 IDC全球调研数据显示，28% 的受访企业表示在组织内部 缺乏Gen AI方面相应的专业 知识导致企业在Gen AI项目 盲目跟风，无法为企业从战 略层面做好全局规划。 IDC全球调研数据显示，26% 的企业表示由于数据的质量 和安全方面的治理难题，导 致企业在生成内容的质量和 输出准确性方面存在顾虑， 对大模型的应用望而却步。 本报告来源于三个皮匠报告站（www.sgpjbg.com）,由用户Id:87791下载,文档Id:995610,下载日期:2025-12-19 �� 基础设施瓶颈：如何获得低成本算力，并高效使用 GenAI对算力资源的极端需求与企业成本控制目标存在较为显著 的矛盾。高端GPU资源的采购与运维成本高昂，且受供应链波动 与地缘政治影响显著。此外，分布式训练框架的优化不足也容易 导致算力利用率低下，进一步推高训练和推理成本。此外，能源 消耗问题随模型规模扩大愈发突出，与行业碳中和目标形成冲 突。因此，企业在探索多元化算力获取以及弹性资源供应方面受 到严重困扰。 场景开发难题：如何适配与融合，贴合企业用户的业务特性 在GenAI推动业务落地的过程中，场景适配性与业务融合度成为 普遍瓶颈。通用大模型虽具备跨领域能力，但难以直接处理垂直 行业的复杂任务，通常需通过领域知识增强与微调实现专业化适 配。但企业往往缺乏行业知识库与高质量标注数据，导致模型训 练效果受限。此外，业务部门与技术团队在效率提升、体验优化 方面的理解经常存在差异，导致目标不统一，指标不一致，严重 影响开发成效。 产业、人才、标准体系不够健全 GenAI生态的成熟度直接制约企业规模化应用进程。在产业层 面，上下游协同机制不完善，不同类型企业之间的接口不统一， 导致集成成本高，迁移难度大。在人才层面，既掌握AI核心技术 又熟悉行业Know-How的复合型人才稀缺，造成人才结构失衡。 在标准体系层面，模型性能评估、安全等级划分等关键标准缺 失，企业选型时缺乏权威参考，使大模型与行业的融合工作受到 严重制约。 IDC全球调研数据显示， 36%的企业认为IT基础架 构和IT资源能否实现优化 成为制约企业发展Gen AI 的重要因素。 IDC全球调研数据显示， 35%的企业认为技术和开 发人员难以理解业务逻 辑，未能达到Gen AI项目 目标。 IDC全球调研数据显示， 42%的企业认为所在企业缺 少在Gen AI方面成熟的开发 经验的人才或者是现有人员 在技能面存在短板。 �� 2.2 企业智能化实践的技术基础和未来趋势 企业在落地和实践大模型的过程中，需要参照以下关键技术建立基础设施、平台和人才的储备， 并搭建持续迭代的技术开发环境： 模型精调与模型服务：通过高质量数据准备、参数微调与优化方法，结合提示词工程精准引 导模型输出，实现任务适配与性能提升。 模型部署：基于业务场景选择云端部署，利用API/MCP等协议实现系统集成，并采用推理加 速、动态资源管控等技术保障高效运行。 智能体开发环境：引入完备的智能体开发环境，包含交互式调试能力和低代码、零代码开发 工具，降低企业开发门槛，加速智能体落地流程。 工作流编排：支持模型基于任务目标自主拆解关键环节并生成任务执行计划，同时提供可视 化人工编排界面，实现复杂流程的灵活干预与优化。 RAG（检索增强生成）：允许用户上传结构化/非结构化文档或数据库，通过自动/手动分片 构建私有知识库，并动态调用增强模型回答准确性。 组件、插件：提供包括预训练模型、成熟工具组件、行业工具包等标准化组件库，并支持通 过插件机制快速扩展功能，降低二次开发成本。 算力调度与协同：建立一体化算力调度平台，对异构算力实施统一管理。 其他：支持通过自然语言提示词自定义软件界面布局与交互逻辑，还可定制数字人形象、语 音风格等，以增强用户体验。 面对未来发展需求，企业面临从技术迭代到产业重构的全面变革，在技术能力边界、安全保障以 及产业链分工方面还需要进一步对关键能力进行强化： 多模态融合：基于多模态大模型构建企业的感知、认知、决策一体化系统，例如通过语音指 令驱动图像生成，或结合视频流与文本数据优化工业质检模型，推动人机交互与智能决策向 全场景渗透。 与传统业务系统融合：以MCP协议为代表的标准化连接模式，使大模型能力与传统业务系统 可以实现无缝对接，打通数据流转与流程协同链路。同时，此类协议还支持大模型与大数据 系统深度联动，帮助企业从单一流程自动化向全域智能化升级。 �� 安全与可解释性持续增强：部署合规检测引擎，通过规则库与模型监控，实时筛查输入输出 的隐私泄露、歧视等问题；采用逻辑链追溯等技术,增强模型透明度，约束黑箱和幻觉问题。 产业链分工：GenAI产业将加速垂直方向的细分。例如上游聚焦AI芯片与算力优化，中游深 耕数据服务与算法模型，下游拓展智能体开发平台、行业智能体及智能体服务运营等，形成 全产业协同生态。 2.3 拥抱智能体，将大模型的能力转化为创新行动 在大模型的强力助推下，企业应用形态也在快速发生变化。在未来，灵活多样的智能体应用将成 为企业智能化转型升级的主流形态。多智能体之间以及智能体与传统应用之间的广泛协同，也将 推动大模型能力深度融入到企业业务的各个环节中。 智能体将GenAI的思考能力转化为行动成果 智能体作为GenAI技术的关键执行环节，通过整合环境感知、任务解析、工具调用与反馈优化 机制，将大模型的文本生成、逻辑推理等抽象能力转化为具体场景中的决策指令与可执行动 作，形成包含感知、决策、执行、迭代的闭环链条，推动AI技术从认知向业务落地实践延伸。 智能体带动大模型快速适配多样化场景 智能体基于模块化架构与低代码开发范式，支持企业通过可视化配置方式，快速定义任务流 程、接入关键数据