杨强 微众银行首席人工智能官（ CAIO ） 加拿大工程院与皇家学院院士 杨强 202307 weBank AI Agent 是大模型面向应用端发展的下 一阶段 联邦学习与联邦 大模型 WeBank AI Agent 目录 2 2. 通用大模型不具备专业知识 通用大模型如直接用于各行各业，模型表现 得专业知识不足，并不能满足业务要求； 需要利用本地数据训练垂类行业大模型，大 机器学习项目中不同环节耗费 时间结构比重 机器学习 模型训练 10% 数据识别 5% 机器学习 模型调参 5% 机器学习 算法开发 3% 数据增强 15% 3 AI Agent 如何解决通用大模型短板 知识库检索增强生（ RAG ） 办法： 1. 收集整理垂类相关 事实性更准确，避 免了幻觉。 人工审核 Prompt 优化、反面案例、 COT 构建 模型微调 性能评估 原始训练集 审核后训练集 专用训练集 微调后模型 模型上线 AI Agent 如何解决生成式大模型短板 Embedding 模型 通用大模型 垂直领域文档 5 大模型微调 ( 思维链 CoT) 方案 ： 1. 微调数据中包括领域知识 及解题步骤（思维链）；

智能分析 AI Agent 在金 融 行业的先进实践与展 望 数势科技 岑润哲 金融行业经营分析领 域的现状和痛点 智能分析 AI Agent 相 较 传统解决思路的技术 创新 总结与展望 当前行业内通用解决思 路及主要问题 智能分析 AI Agent 的 应 用场景与价值 目录 C O N T E N T S 01 03 05 02 04 walmart* 利用大模型 Agent 能力，显著降本增 效 门槛低 效率高 能力厚 交互性强 门槛高 效率低 能力薄 交互性弱 老板任务 运营任务 产品任务 临时需求 数据 Agent （大模型） （秒级响应） 数据 +BI 数据 +BI 数据 +BI 数据 +BI 数据提取 CONTENTS 智能分析 AI Agent 相 较 传统解决思路的技术 创新 仓外语义 -- 灵活便捷、贴近业务 • 数据建模右移，更贴近数据消费 endpoint ，更便于 LLM Agent 规划推理； • 基于虚拟层做数据编织，口径管理更灵活、便捷 指标平台 + 大模型组合方案提升可靠 性 Agent 架构将提升复杂任务理解与规划能 力 数势科技 NL2MQL+Agent 路径是效果更优的科学路

为主角 、人为助手的协作模式 微众银行： 黄叶飞 02 大模型在研发效能上的初步探索 05 Multi-Agents 实现研发流程提效 03 大模型辅助研发遇到的困难 04 Agent 离不开的 RAG 让 AI 成为主角的人机交互方式 研发流程面临的主要问题 目 录 复杂 内部研发效率主要体现在其复杂性上： 人员 、产品 、监管事情应接不暇。 研发流程面临的主要问题？ 方法 RAG 可以解决模型微调中的不少问题。 Agent 离不开的 RAG 问题分析 Multi-Query Step-back RAG-Fusion HyDE Agent 离不开的 RAG O O O 生成 Prompt LLM RAG 处理流程 - 提升 Agent 能力 接口文档 数据库表结构 测试案例 数据处理 检索 实践 从集成基础工具到不同业务场景的 Agent 实现。 Multi-Agents 实现研发流程提 效 一个升级 Jar 包的工单 Agent 实现 需求分析 Agent 组 件 Agent 1 □ 根据工单号拉取详情 2 □ 根据详情识别需要 升级的组件 Git Tool Git 操作 Code Agent 生成新的代码操作 输出： 标准 Json File

任务的泛化能力，拓宽企 业服务的能力边界。将行业专业知识、企业私有数据与大模型相结合，降低模型 幻觉，提高对特定任务的适应性，可以更加符合专业场景的诉求。 2）Agent：大模型兴起后，Agent与大模型两者融合相互成就。AI Agent通过 选择性综合大模型和多种先进算法，形成具备独立思考、工具调用能力等特征的 系统，满足更广泛的垂类场景需求。 3）数据治理：随着业务规模和系统规模的不断增加和扩大，为了支持海量数据 训练+推理+持续调优的成本高企 • 算力资源需求的波峰波谷明显 • 算力资源利用率低下 • …… 异构集群 峰谷互补 任务调度 算力分配 17 ◼ Agent的发展历程 ◼ AI Agent概念界定 ◼ AI Agent的应用概括 技术侧：Agent 18 ©2024.7 iResearch Inc. iresearch.com.cn Agent的发展历程 Agent早就存在，大模型兴起后两者融合相互成就，落地方式多样灵活 来源：结合公开市场资料和专家访谈，由艾瑞咨询研究院整理及绘制。 大模型兴起前—Agent萌芽期 大模型兴起后—AI Agent概念再次导入 大模型兴起后—AI Agent的成长期 Agent指有欲望、信念、意图，并能采取行动能力的实体。 公元前 · Agent单词出现 20世纪50年代

瓴羊是阿里巴巴旗下全资子公司，专注为企业提供高效智能的数 智化转型工具、数据与智能体（Agent）服务，其数智化产品覆 盖数据采集、治理、分析全生命周期，同时提供数智营销、智能 客服等场景化解决方案，以及数据集寻 - 买 - 管 - 用与合规保障 等服务。瓴羊致力于通过 Data × Al，助力企业挖掘数据价值、 提升智能决策能力，加速数智化转型。 一财商学院成立于 2023 年 6 月 6 日，由上海文广集团 未来，我们会看到 AI 不仅仅是改变我们的工作方式，还会深层次地改变组织形式。围 绕“营销——客服——决策”这个全链路，Agent 参与的环节会与来越多，未来会出现很 多擅长使用 Agent 的超级个体和超级岗位，以及“人和 Agent”协同配合的超级公司。从 DaaS 服务到 AI Agent，瓴羊一直在解决的不仅仅是企业的效率问题，更是要提升效果， 创造价值。 刘润 ｜ 润米咨询创始人 瓴羊让我在细微之处感受到 瓴羊让我在细微之处感受到 AI 的力量，填单、识别、外呼、跟进，让客服的工作变得 没有那么枯燥和繁琐。下一次打开淘宝的客服页面，我或许会想到屏幕对面的客服正 像优雅的乐队指挥，调动这几个、几十个客服 Agent。我们见惯了 CEO 们大谈 AI 战略， 但是 AI 可以如此真切地改变着普通人的工作。 江南春 ｜ 分众传媒董事长 广告既是文学也是数学。既要有文学的，大家凭着常识感知，觉得这个广告是有效的。

客户体验平台 信息系统平台 生态系统平台 物联网平台 数据智能平台 智能体： R&D Agent.Customer Agent 、 Supply Agent 、 Marketing Agent 、 Fin Agent 、 HR Agent 1 、战略目 标 2 、业务能 力 3 、业务流 程 “EBC 世界隐形冠军成长之道”构建中型企业数字化转型运营目标 聘 / 绩效 人人 人 人 / 全 员 Agent 差旅智能体 企业知识智能体 Chat Bl … 人力 人力资源 Agent 招聘智能体 人才供应 Al 助 手 任职资格 Al 助 手 人才智搜 供应链 供应链管理 Agent 合同智能体 供应链风险管 理 供应链分析 生产 生产管理 Agent 质检结果 Al 录 入 排产智能体 供应链分析 供应链分析 营销 市场营销 Agent 报价智能体 智能销售预测 销售订单 Al 录 入 战略 战略发展 Agent BOSS 助理 指标平台 智能决策大屏 财务 财务管理 Agent 金钥财报 Al 记 账 智能费报 . 研发 PLM 管 理 Agent AI 设计辅 助 AI 图纸校 验 质量管理 研发质量 / 生产质量 / 供应 链 质量

流程“无缝集成”。 Al + SaaS数字化解决方案 AkCRM Al +0A Al ♦CSM Al ♦SRM 的隽Agent 营销Agent 人设 岗位职责 行*作风 RAG 向量化 知识 召回 云知识库 检索/召回 搜索引擎 Al智能体 行政Agent 财务Agent HRAgent 轻翼产品架构 tl^guildline 技能 丰富第三方技能库 日程文档飞书网仃/企业循信

SFT/RLHF ） 金融知识库 知识萃取 高效索引 金融工具链 意图识别 工具调用 智能 体 Agent 模型压缩（蒸馏 / 量 化） 智能投顾、智能监管 营销推荐…… 智能投研、报表分析 交易辅助…… Copilot 模式 Agent 模 式 行业大模型（金融） 大模型金融应用 研究实践 1: 可信数据空间赋能可信行业大模型 KVDB 营销领域大模型项目围绕大模型在智能体（ Agent ） 、检索增强生成（ RAG ） 、模型微调三方面能力持续突破 ，解 决 “小鱼管家”金融营销应用中四大应用难题：建档回填繁琐、功能检索复杂、客群问答关联性差、产品问答不智能。 研究实践 4: 营销领域大模型 「 Agent 」 案例三：图表分析 年报知识库 邮储银行 平安银行 中国平安 招商银行 大 模 型 自 动 提 纲 生 成 投研问答与投资尽调助手 投资尽调 Agent ，实现从数据上传到辅助填写材料的全流程自动化处理 ，提高工作效率 ，减少人工干预。 金数湾科技“小湾企服”项目 基于大模型的数据处理 + 2. 文本识别 基于 OCR 技术的文本识别

为营销运营、分析决策、中后台运营支持（见图 2）。 在营销和运营环节（包括面向客户的营销获客、 产品推介、客户运营等），大模型能够较好地赋能 前台对客环节，提升展业质效。一方面，大模型 作为 7×24 小时在线的 AI Agent 智能客服优化客 户交互体验，向客户提供金融资讯、业务办理等 不涉及强金融建议的金融信息数据服务，并调用 专业金融知识库及工具为客户提供关于财富管理、 保险产品信息等方面的基础金融咨询服务。例如， 效率，并给产业协作和行业格局带来深远影响。本 文从应用趋势、赋能空间、产业格局三个方面对大 模型在金融行业应用的发展趋势进行探讨。 （一）应用趋势展望：大小模型协同发展， Co-pilot 嵌入更多场景，AI Agent 精简、重 塑展业模式 当前，大模型仍存在专业能力有限、生成结果 不可控、算法可解释性较差等问题，在合规性和适 当性等方面仍缺乏保障。然而，伴随技术进步带动 大模型能力边界提升以及新的解决方案减少大模型 投资回报。 此外，未来金融机构有望基于大模型发展 AI Agent， 进 而 简 化、 重 塑 展 业 方 式。 其 中，AI Agent 或可统筹任务分解、流程规划、工具调用、 内容整合等工作，并结合 API 接口、外部插件等， 实现多种能力的统一调度和集成，进而精简业务 流程、提升金融机构展业质效。同时，未来 AI Agent 可能会对长尾用户获取服务的入口和交互的 方式产生影响，为长尾客户提供更加个性化的高质

占比不同；而在基础能力之外，各测评平台侧 重点不同 ��� ü ü ü ü ü OpenCompass 2.0 �� ü ü ü ü ü Agent IDC ü ü ü ü ü To C通用场景类 To B特定行业类 Agent 特定行业类 超长文本 道德责任 Language �� Knowledge �� Reason �� Math �� Code �� 搜索+推荐+服务 人设+个性化+陪伴用户进行养 成 场景形态 多媒体 Agent 导航 Agent 车控 Agen 本地生活Agent 出行Agent 分类、拒识、速度 分类模型速度 跨域上下文 大模型微调 语言大横型 多模融合大模型 生图/视频大模型 端部大模型 语音大模型 视觉大模型 业务大脑:AI Agent(中枢大模型、中控调度) 大模型底座(1+N大模型) 车控 车内外视觉感知 与国内外多家高端汽 车品牌缔结合作，上 探语音智能化体验 Ø 4月搭载DFM-2 大 模型即将量产 Ø 下半年搭载DFM- 3大模型即将发布 ���� 基于大模型技术，从语音助手走向AI Agent 也具有无限潜力 面壁智能 MODELBEST ����MiniCPM 产业研究 战略规划 技术咨询 57 面壁智能迭代的最新版本MiniCPM-S 1.2B采用了高度 稀疏架构，通过将激活函数替换为