埃森哲《技术展望2025》

微信扫码，打开到小程序

技术展望 2025 AI 自主宣言： 可能无限，信任惟先 技术展望 2025 | AI 自主宣言 2 AI自主宣言： 可能无限，信任惟先 前言 沈居丽（Julie Sweet） 埃森哲董事长兼首席执行官 卡迪克·纳拉因（Karthik Narain） 埃森哲技术服务全球总裁兼首席技术官 欢迎阅读《技术展望 2025》。就在我们连续第 25 年推出这份前瞻性趋势报告之际，人类迎来了科技发展 史上重要的分水岭。如今，越来越多的企业领导意识到， 利用技术、数据、AI 不断展开持续变革至关重要。AI 正 越来越快地广泛普及。这为企业全面重塑带来了诸多新 机遇，比如以全新方式提升效率、优化核心业务、开发 新商业模式、创新客户互动方式等。 我们将 AI 视为一种新的数字化，因为它不仅改变了 技术本身，还带来了全新的工作方式。它将渗透到企业 的各个领域，对方方面面和相关人员产生广泛影响。目前， AI 的影响力已经显现出来。而随着企业继续扩大 AI 的应 用规模，将生成式 AI 作为重塑的驱动力，它将会开始解 决新问题、创造新发明、改变我们的工作和生活方式， 乃至彻底革新各行各业。 埃森哲调研表明，目前仅有 36% 的企业高管表示其 所在组织已经大规模应用生成式 AI 解决方案，而仅有 13% 的受访者认为这些解决方案在整个企业中产生了显 著影响。面对这一现状，埃森哲致力帮助广大企业更迅速、 更安全地推进 AI 的大规模应用。因为我们相信，2025 年将是 AI 真正普及的一年。 《技术展望 2025》报告探讨了当 AI 从自动化工具 转变为人类的代理，能够自主采取行动时，未来将呈现 怎样的面貌。AI 将赋予人们执行新任务的能力，或使现 有任务完成得更加出色。我们需要思考，随着 AI 不断普 及、涉足更多的陌生领域，会有哪些创新可能与机遇出现。 为真正了解并充分利用 AI 的潜力 ，企业应当创建符合自 身需求的 AI 认知数字大脑，彻底重塑技术在整个组织中 扮演的角色及其与员工互动的方式。AI 将颠覆数字生态 系统的设计、使用和运营方式；出任品牌的形象大使； 并通过为实体机器人注入“灵魂”，使其在物理世界中 大显身手。而当 AI 在一家公司广泛运用的时候，人类和 AI 将会相互促进，双向赋能。 企业领导应认识到，创造美好未来的征途充满挑战， 例如我们需在核心技术、数据归集和数据质量、人才和 新技能等方面进行一系列前期投资。而重中之重就在于 如何构建信任。 埃森哲调研发现，77% 的受访高管认为，只有以信 任为基础，才能释放 AI 的真正价值。除了负责任地使用 AI 之外，企业领导还需要确保数字生态系统和 AI 模型的 准确性、可预测性、一致性、可追溯性，以赢得客户和 员工的信任。在技术层面以外，人们希望 AI 能够按照我 们的预期公平、无偏见地工作，这一点非常重要。 我们坚信，未来就在脚下。新技术将为我们开启一个 新的时代，带来新的机遇。通过建立对 AI 系统的信任， 企业和个人将展现出超乎寻常的重塑潜能。让我们携手共 进，未雨绸缪，共谱新篇，未来可期。 技术展望 2025 | AI 自主宣言 3 目录 目录 01 二进制大爆炸 02 品牌新门面 03 大模型进入实体 04 人机学习循环 概要 AI自主宣言 可能无限，信任惟先 09-21 04-08 22-33 34-46 47-58 在界面趋同中赋予AI个性 人与AI互学共进，双向赋能 推动技术系统的根本性变革 基础大模型重塑机器人 技术展望 2025 | AI 自主宣言 4 概要 AI 自主宣言： 可能无限，信任惟先 AI 的泛化和普及正在开启技术 的新篇章，为企业带来近乎无限的 创新和增长机会。如今， AI 技术渗 透到方方面面，推动企业实现更高 水平的自动化，并将增强企业通过 技术、数据及 AI 重塑的能力。然而， 这一趋势也带来了新的挑战。企业 需要在拥抱 AI 的同时，建立对技术 的信心，并重新思考信任的定义和 实现方式。 AI 领域的竞争热潮已成为不可否认的全球趋势。 这种情景似曾相识。1997年，国际象棋大师加 里·卡斯帕罗夫（Garry Kasparov）与 IBM 研发的计 算机“深蓝”进行六局对弈后落败。 1 历史上首次， 计算机在国际象棋领域战胜了人类顶尖棋手。此前数 十年，研发人员一直以象棋为试验场，探索计算机是 否具备超越人类智能的潜力，这场胜利不仅引发了关 于 AI 技术未来发展的热烈讨论，兴奋和质疑之声都 不绝于耳。现在，新的角逐已然拉开帷幕。诸多企业 竞相构建最先进的 AI 模型，并将目光瞄准了通用人 工智能（AGI）， 2,3 与过去一样，这场竞赛吸引了企 业领袖、政府乃至全世界的关注。 虽然 AGI 在未来可能具有重大意义，但目前它仍 然遥不可及，许多技术和伦理问题尚未解决。当前企 业领导者不应过度关注 AGI，而应聚焦于已经到来的 AI 泛化（generalization of AI）这一趋势，它将为 企业带来更高水平的自主性和能力。 AI 的泛化 要理解 AI 的泛化，只需观察它如何深深根植于 我们的日常生活。距离卡斯帕罗夫与“深蓝”的对弈 已过去近 30 年，如今能让“深蓝”相形见绌的 AI 模型唾手可得。图灵测试曾被认为是机器智能的最高 标准，而今天，人与基于大语言模型（LLM）的客服 机器人和销售智能体对话每天都在打破这一标准。如 今的AI模型已摆脱了过去深度但特定且线性的方法， 展现出前所未有的自主性⸺无论在学习方式、任务 处理、还是最终能力上。这种自主性正在改变工作方 式：从 75% 的知识工作者使用生成式 AI 提升工作效 率，到人机交互方式的革新（如 AI 编程助手和语音 助手），再到机器人、汽车、医疗保健等行业的广泛 应用。 4,5,6,7,8,9,10 高度先进的 AI 融入了我们生活的方 方面面，随时可用，几乎无处不在。 技术展望 2025 | AI 自主宣言 5 什么是认知数字大脑？ 认知数字大脑通过四个相互连接的层次，实现对信息的组织、处理和行动，成为企业决策和持续学习 的中枢神经系统。它支持企业的未来战略目标，例如意图式架构推动企业运营的智能化和高效化。 知识层：通过知识图谱和向量数据库等技术，从企业内部和外部收集、组织和结构化数据。 模型层：大规模生成式 AI 模型以及经典的机器学习和深度学习模型可以通过关键思考和推理，将数据转化 为可用于决策或行动的结果。 智能体层：智能体旨在解决问题，能够在尽量减少人类干预的情况下处理任务，并随着时间推移不断学习和 成长，还能将规划、复盘、适应能力融入其中。 架构层：有了全面的架构支撑，AI 实验才能转化为企业级解决方案。它会将智能扩展到整个组织和现有的工 作流程中，实现可重复性，确保解决方案能够一次创建多次复用。 概要 这才是企业领导者真正需要关注的颠覆性变革。 当前许多企业领导者可能只关注 AI 的局部应用，而 未能从全局视角认识到 AI 技术的整体变革能力。AI 正在构建“认知数字大脑”，这将彻底重塑技术在企 业运营和人们生活中所扮演的角色。 企业领导者须充分认识到，AI 最突出的特性在于 学习能力。当 AI 实现泛化并应用于企业和个人生活 中时，它的潜力远不止提供新功能和新服务。企业用 AI 不仅仅可以赋能员工、优化客户服务或自动化部 分运营，更应发挥其广泛通用的知识和学习能力，向 其“传授”一部分业务知识。同时，用户在使用 AI 的过程中也在不断教 AI 了解自己的喜爱、偏好、需求。 企业可以有意识地整合零散的 AI 应用，构建认 知数字大脑。这个系统能够将工作流程、知识经验、 价值链、社交互动等关键数据编码其中，以更高的理 解力、更强的执行力发挥作用。 个人如何利用 AI ？企业应该通过 AI 赋能全体员 工？当 AI 广泛普及并渗透到生活的方方面面时，世 界会变成什么样子？企业领导者正在将零散的 AI 应 用整合为一个统一的系统，推动 AI 泛化。AI 将赋能 个人、优化企业运营、重塑行业格局，甚至提升国家 实力。 例如，制药企业英矽智能（Insilico Medicine） 利用生成式 AI 技术，将一款药物从研发到 I 期临床 试验的时间缩短至 30 个月以内，仅为通常时间的一 半。 11 英矽智能团队基因组学和临床数据对模型进行 微调，识别药物靶点，并使用由 500 个预测和预训 练模型组成的生成化学引擎开发药物组合。对英矽智 能来说，AI 是核心驱动力，彻底重塑了制药行业的 研发模式。 认知数字大脑深入各个层面，开启新纪元 认知数字大脑的应用场景和表现形式因层级而 异，但其核心目标是一致的：增强能力和提升自主性。 对个人而言，认知数字大脑如同 co-pilot（副驾驶） 或智能助手，了解我们的工作，学习我们的喜好，通 过互动持续加深对我们的了解，帮助我们成为更好的 自己。对企业而言，认知数字大脑类似中枢神经系统， 能够优化企业架构，捕捉集体智慧，识别差异化优势， 建设企业文化，塑造企业形象，并成为企业一部分业 务的关键指挥员，甚至自主运营一部分业务。从行业 角度出发，认知数字大脑可能表现为行业的通用框架 和通信协议，或是将行业挑战转化为 AI 模型或算法， 加深我们对物理学、遗传学、运动学等领域的认知。 而站在国家和政府的高度，认知数字大脑将整合知识、 语言、文化、法律和安全，帮助行业、企业和公民更 好地互动。至关重要的是，上述认知数字大脑不会孤 立运作。当它们跨层级开展协同时，将推动社会整体 的智能化升级，创造更大的价值。 自主 AI 系统的普及标志着技术和社会进入了一 个新阶段，即“AI 自主宣言”。无论我们如何表述， 它们的核心特征⸺自主性⸺正在推动世界进入一 个全新的能力、表现和发展水平。AI 的认知能力将 渗透到各个层面，推动社会整体的智能化转型。这种 普及将引发一波前所未有的自主性浪潮，彻底重塑我 们所熟知的技术和商业。 初看之下，这可能只是一次 AI 从自动化到数字 系统自主化的转变。这个想法没错，但并不全面⸺ AI 正以多种方式提升自主性。AI 为人们点亮新技能， 使他们能够以更高的主动性行动，扫除障碍。AI 赋 予机器人环境感知和推理能力，使其能够承担更广泛、 更复杂的任务，最重要的是，能够与人类更紧密地协 作。如今，单智能体和多智能体系统无需持续的人工 干预，便能管理工作全流程或与客户互动，工作全过 程还可被有效监督与记录。这种自主性将大大拓展企 业的想象空间。埃森哲研究发现，生成式 AI 能够重 新构想和增强复杂任务，率先应用 AI 的企业预计将 提升 20% 的生产力。 12 技术展望 2025 | AI 自主宣言 6 概要 想进一步了解数字平台、数据与 AI、数字基础如 何帮助企业在变革和颠覆中增长，请参阅埃森哲报告 《构建数字核心，推进全面重塑》。 我们正处于新征程的起点，未来有各种可能。要 充分发挥 AI 的潜力，领导者需要制定战略，决定怎 样利用 AI 的自主性为企业提供新能力。然而，在这 个新时代取得成功并做出正确选择并非易事。自主性 的核心是信任，对企业来说，信任将是企业未来增长 的坚实后盾。 信任惟先 信任是如何定义人类体验的？以父母与孩子的 关系为例，在孩子成长的早期阶段，父母通过设置 “护栏”，如婴儿床的护栏或防撞条来保护他们，确 保他们的安全。随着孩子逐渐长大，我们学会了更多 地信任他们。他们不再需要牵着家长的手过马路，但 我们还是会陪在孩子身边。他们可以自己去户外玩耍， 但不能出院子。随着信任的增长，我们逐渐扩大“护 栏”的边界，直到有一天，孩子完全长大成人。我们 仍然会关心他们的行为是否安全，但作为成年人，他 们已有自主决策的能力。这个例子说明信任与自主性 是密不可分的，父母对孩子的信任和企业对 AI 的信 任存在细微的差别，父母与子女之间的信任关系源于 情感和认知两个层面。各种护栏不仅可以营造出充满 关爱、促进成长的安全环境，而且还能帮助父母对孩 子的决策能力建立信心。人与人之间，我们并不需要 区分这两个维度（情感和认知），但人与技术之间， 它们意味着全然不同的挑战，需要不同的解决方案。 迄今为止，技术系统主要是基于规则的。虽然这些系 统的智能程度较低，但它们具有很高的可预测性，因 此更值得信赖，被企业普遍采用和推广。在 AI 时代， 我们的技术系统已经具备更高的自主性，并将创造更 大自主空间，信任将成为技术系统广泛应用的关键。 因为，信任是自主性的前提，只有在信任的基础上， 系统才能实现更高的自主性。 但这一结果并非如我们想象的那般显而易见。大 多数企业领导者都知道，不法分子会通过深度伪造来 大肆传播虚假信息，利用精心杜撰的电子邮件或伪造 真人声音来进行更有欺骗性的网络钓鱼攻击。或者， 即便使用 AI，有偏见的决策也可能出现。我们要明白， 这些都是真实存在的问题，全社会都在大力开发内容 水印或深度伪造检测工具，迫切寻求解决方案。但是， 有关AI信任的讨论若仅着眼于不良行为和功能滥用， 则会以偏概全。要在与系统、员工以及与客户的互动 中实现真正的自主，领导者必须更全面地考量信任问 题。就像引导孩子成长一样，需从政策、道德、伦理、 情感等各个维度上建立对 AI 的信心，使其能够按预 期运行，从而放心让其自主展开工作。这意味着，信 任不仅与 AI 滥用有关，即使我们正确使用 AI，信任 问题仍然可能存在。 因为这种影响的确存在。企业应认识到，随着技 术系统自主性的不断增强，他们需要重新思考，对这 些系统信任到何种程度，以及还需要设置哪些“护栏”。 AI 研究公司 Sakana AI 在测试其名为“AI 科学家” 的新系统时，清楚发现了这项工作的必要性。 14 该系 统利用大语言模型自主开展科学研究，在一次运行中 出现了无法在设定时限内完成实验的状况，结果系统 通过自行调整代码，放宽了时间要求。Sakana AI 公 司指出，这一行为具有创造性，但同时也表明，AI 模型有能力绕过限制。而这，会对 AI 的安全性产生 重大影响。 随着 AI 自主性的增强，企业不仅需要关注其所 使用的 AI 模型或系统的信任度，还要关注企业与人 之间已建立的信任。 以不法分子生成的内容为例，许多企业采用了相 同的核心技术，并且收效显著。AI 生成的营销材料、 聊天机器人对话、产品推荐，这些应用场景还在不断 丰富。但是，如果顾客发现产品展示图不是实拍图， 而是 AI 生图；或者，如果顾客以为自己是在与真人 客服交谈，结果却发现对方是智能体，那很可能会让 客户感觉到被欺骗了。 企业员工在使用 AI 的过程中也会出现类似情况。 越来越多的员工在工作中发现 AI 的价值。截至 2024 年 5 月，超过 40% 的受访用户表示过去六个月中 曾在工作中使用 AI， 15 但他们对雇主隐瞒了 AI 的使 用⸺一半以上使用 AI 的员工不愿承认这一点，他 们担心雇主知道使用 AI 完成重要任务会让自己看起 来可以被取代。这并不是说员工不信任他们正在使用 的 AI，恰恰证明 AI 动摇了员工与雇主的信任关系。 员工习惯了拥有清晰的职业发展路径、明确的岗位职 责、技能期望，认为工作表现好，就能工作稳定。AI 的普及使这一切变得不再确定。 对于企业来说，信任是支撑其与客户、员工、监 管机构及股东关系的关键纽带。以往，这种信任由日 积月累的频繁人际互动支撑起来，但 AI 正在改变一 切。企业每天都在进行大量的微交互：优秀的销售人 如今，我们有了最初的火种，能够激发出无限增 长和创新。随着 AI 自主性的不断增强，企业内部的 运营效率和组织间的协作能力将显著提升，率先布 局 AI 技术的企业将赢得数十年的竞争优势。然而， 犹豫不决或行动迟缓的企业将面临被新兴或传统竞争 对手颠覆的风险，正如数字化时代所见证的那样，网 景浏览器（Netscape Navigator）将互联网展现给 全世界，不到两年时间，众多互联网企业创立，但时 至今日，他们占全球互联网公司总市值的比例还不到 1%。 13ChatGPT 发布至今略超两年，我们刚刚开始 探索新一代 AI，企业必须迅速行动，抓住机遇，否 则可能会被竞争对手彻底超越。 技术展望 2025 | AI 自主宣言 7 概要 员帮助客户节约成本；支持人员尽心竭力地为客户解 决问题；服务从业者或提供方提供优质服务；企业致 电客户进行身份核实，按时交付产品等等。现在，AI 正在改变这些构建信任的微小互动。许多交互会因 AI 的参与变得更好⸺更具自主性、摩擦更少、结果更优。 但是，当信任成为一项阻碍，企业是否还能继续前行？ 怎样才能为那些建立信任的关键时刻注入新的活力？ 这些都是企业领导者亟需解决的问题。自主性是 抓住新一轮业务增长与创新机遇的关键。我们希望员 工能够更加自主地工作，并配备一支按照他们指令行 动的智能体团队。我们希望客户能够与自主化的企业 系统顺畅互动，按需购买，或是享受智能体提供的互 动服务⸺也只有它们才能一键管理成千上万次的个 性化互动。但是，这种自主性需要以信任为基础，其 中包括客户对企业的信任、企业领导对自身系统的信 任、员工对雇主的信任、人对 AI 的信任，以及企业 所处生态中所有利益相关方之间的多边信任。 因此，信任是《技术展望 2025》阐述的各项趋 势中贯穿始终的关键词。信任不是企业可选项，而是 企业必须深思并践行的核心议题。随着 AI 的泛化， 企业开始重塑，但技术不应是唯一的焦点。信任是 AI 成功应用的基础，领导者必须将其作为首要任务，以 确保 AI 技术的广泛应用和成功。 建立坚实的多维度基础 AI 时代，信任的构建与维系将变得更加动态和复 杂，对企业规划有着举足轻重的影响。要与 AI 紧密 协作，企业领导者需要在情感和认知两个维度上构筑 信任。员工对 AI 青睐有加、还是心存畏惧，他们认 为 AI 能为自己带来助益、还是感到被 AI 利用，这些 问题经常被公开讨论。但随着 AI 的进一步推广，企 业需要制定切实的政策和治理措施。认知维度的信任 需要通过技术手段来解决，如系统能否可靠、称职地 工作，能否应对挑战并在设定的“护栏”内按预期运 行？ AI 系统的自主性使其在信任管理上面临更大的 挑战，因为其行为不仅基于明确的指令，还基于学习 和意图。为了打好认知层面的基础，企业应建立由各 领域人才和决策专家组成的专门团队（或是 AI 运维 团队），不断进行测试、评估，确保系统具备准确性、 可预测性、一致性和可解释性，以构建对系统的信任。 这是一个全新的领域，每个企业都需要根据自身情况 制定个性化的信任管理策略。但整体而言，一切的交 汇点，都在于夯实企业对系统与数据、AI 以及人的信 任。 首先，企业需要加强其数字系统的网络安全和信 任。值得庆幸的是，对于系统与数据而言，企业并不 需要从零开始，许多现有的技术和战略投资（如零信 任和实体行为分