基于大语言模型的AI Agent架构 及金融行业实践 周健 2024.8.17 企业数智化发展趋势 商业化成熟度 时间 2022.1 1 2023.2 2023.8 2023.5 Llama3 GPT 4o GPT4 GPT4 GPT 3.5 Sora Gemini 2023.1 1 2024.2 闭源模型（文本） 开源模型（文本） 多模态模型 实时模型 Llama2 Is Emerging — Business Orchestration and Automation Technologies AI Agent在企业数智化中的定位 AI Agent：基于大语言模型的自治智能体 从人机协同模式角度 从Agent组成结构角度 p 初级形态：把AI嵌入到人的工作中 p 中级形态：AI作为人的辅助工具 p 高级形态：AI作为主要工具，Agent对人 的依赖性在降低，且越来越像真人。人 能被瞬间强化 p Agent具备角色识别，规划及任务拆 解、记忆及知识沉淀、工具/技能使 用、执行动作等能力 p 采用更加高效的CUI交互模式 从技术架构演进角度 p 对话式编程时代，我们相信新的更优雅 的基于大语言模型的软件架构必将诞生 p SPQA架构是一种全新的软件架构，区别 于以前静态、有限输入、电路式的软件 架构 n State+Policy：用于感知环境状态、组织 策略 n

以太坊：找寻自己的路 标准化：编程接口与通证标准 世界上的大部分事物都是不可互换的 发展出应用：以太坊上跑起金融业务 ［专栏］ 以太坊区块链网络就是元宇宙的典范 第七章 可编程的世界：DeFi金融城的形成 从智能合约平台到DeFi金融城 DeFi中的智能合约程序 治理通证的创新：组织协调与利益分享 可编程带来可组合性：用代码连通起来 ［专栏］ 编程能力是元宇宙时代的听说读写 第八章 但我讲得更多的可能是“石头”，即实体与数字融合的元 宇宙的七大基石。 第一块基石：大规模协作。 第二块基石：三维立体。 第三块基石：游戏化。 第四块基石：所有权系统。 第五块基石：可编程。 第六块基石：自组织。 第七块基石：体验。 在一个个案例中你将看到，我们周围的事物与环境、个人 的身份与行动、与他人的联结与互动、工作与组织、价值创造 与分配等都变了，而所有变化的源头都可以追踪到这些基石。 让我们先来看看计算机生成的亦真亦幻的世界。 [1] 在科幻小说家那里，黑日项目（Black Sun Systems） 大概对应的是小说撰写时的知名计算机公司太阳微系统公司 （Sun Microsystems），它开发了Java编程语言。 从虚拟现实到实时的真实 用虚拟现实技术塑造出能超越实体的世界，是人们一直以 来想用计算机做的事之一。狭义的元宇宙，通常指的就是视觉 上让我们感觉身临其境的虚拟世界，但我们又明确知道，它是

安全性：协作机器人配备有先进的传感器技术和控制算法，如力矩传感器、视觉系统等，使其能够实时感知环境 变化和与人体接触，并根据接触情况做出相应的安全响应，以防止对人类造成伤害。 易用性：协作机器人往往具有直观的用户界面和编程方式，使得非专业的操作员也能方便快捷地对其进行设置和 操作，降低了使用门槛。 灵活性：相比于传统固定在某个工作站上的工业机器人，协作机器人通常更轻便且布局更为灵活，可以快速重新 部署于不同 加智能化、个性化的制造模式提供了强有力的支持，是现代智能制造体系中不可或缺的一环。 在当前市场需求日益多样化、产品生命周期缩短的背景下，柔性化生产成为企业竞争力的关键。协作机器人以其高 度的灵活性和可编程性，完美匹配了这种生产模式。无论是多品种、小批量的生产，还是快速的产品迭代，协作机器 人都能有效支持，帮助制造商快速响应市场，降低库存成本，提高整体运营效率。 图表 4 协作机器人与传统工业机器人产品特点对比 传感器种类多样 外接传感器少 投资回 报 价格低、易集成、投资回 收快 集成复杂、投资回收周 期长 作业方 式 人机协同作业 耐疲劳、连续作业 操作环 境 快速编程、操作简单、可 拖动示教 操作复杂、专家编程、 专员维护 常用领 域 精密装配、检测、包装、 上下料、抛光打磨、医疗 辅助、教学培训等 搬运、码垛、焊接、喷 涂等 数据来源：公开资料， 高工机器人产业研究所（GGII）整理

过在海量文本数据上进行预训练，学习到丰富的语言结构和语义信息；并支持智 能对话、准确翻译、创意写作、高效编程、智能解题和文件解读等多种功能。其 “深度思考 ” “ 和 联网搜索 ”功能能够更全面地理解用户问题并提供准确答案。 杭州深度求索人工智能基础技术研究有限公司公司成立于 2023 年 7 月 17 日，专注于开发先进的大语言模型（LLM）和相关技术。 自成立以来，公司在 DeepSeek LLM（深度求索的第一个大模型）， 目 前， DeepSeek-R1 、V3 、Coder 等系列模型已上线国家超算互联网平台。英伟 达称， DeepSeek-R1 是最先进的大语言模型，亚马逊和微软也接入 DeepSeek-R1 模型。 DeepSeek 大模型在多个基准测试中表现优异，尤其是在代码和数学任务 上，超 越了其他开源模型，甚至与领先的闭源模型（如 GPT-4 个核心版本的特点和适用场景。 表 1 DeepSeek 核心版本与适用场景 模型版本 发行时间 模型大小 核心能力 适用场景示例 DeepSeek-V3 2024-12-26 671B 通用自然语言处理（NLP），支 持 长文本理解、多语言交互 合同条款解析、政策法规 匹配、审计报告生成 DeepSeek-R1 2025-1-20 671B 复杂逻辑推理，强化数学与 代码生成能力 财务数据分析、异常检测、

实战篇 技术篇 目 录 Contents 助力教育智能化转型 服务教育现代化进程 45 45 46 50 50 55 55 56 58 61 61 以先进人工智能技术助力语言教学，打造更优口 语测评方法 英特尔与合作伙伴共同探索基于人工智能的智能口语 测评方法 • 基于人工智能的智能口语测评 • 面向英特尔® 架构优化的人工智能口语测评解决方案 基于英特尔优化方案的应用案例 化教育体系添加了新动力。 人工智能在教育行业各场景中的应 用探索与实践 目前，在教育行业各场景中，如图 1-1-2 所示，由数据驱 动，基于各类机器学习 / 深度学习方法构建，涵盖计算机视 觉（CV）、自然语言处理（NLP）以及自动语音识别（ASR） 等技术领域的人工智能应用探索和方案部署，可以分为教学 环节、练习测评和教学管理三个核心场景： • 教学环节场景：与传统教学模式相比，智慧教育引入更多人 探讨如何有效利用英特尔先进软硬件产品带来的高性能算力 和深度学习加速能力，用深度学习方法为教育行业构建涵盖 发音准确度、流畅度、自然度、完整度维度和多项指标的综 合测评智能系统，从而高效、快速和准确地帮助教育机构和 学生，对各类语言的口语学习成果进行智能化测评。 课堂行为分析 智能教学辅助 口语测评 AI 教学与实训 教育教学 人才培养 教学管理 考核测评 教师 学生 教学过程 效果评估 实战篇 15 14

Agent 的兴起并非偶然。大模型、算力供给、能源供给、开源、生态系统和产业应用的同步发展，共同“托举”起 AI Agent 恰逢其时的 诞生，成为当前最值得关注的技术趋势之一。 其中，大型语言模型、模块化架构与协作框架为其筑牢根基，持续发展还需攻克评估、安全与适应性难题。 AI 正站在一个关键新阶段。参考 OpenAI 对 AI 的 5 级分级， AI 已不仅仅是能进行对话的聊天机器人（ 像人类一样能够解决问题的 AI L5 组织者 可以完成组织工作的 AI 能源供给 开源模型和社区合作 LLM 是 AI Agent 的“大脑”， 近半年在推理侧实现大幅进步 AI Agent 大规模语言模型（ LLMs ） GPU 算力供 给 3 02 以“自主规划与工具使用”响应“复杂任务”要求： Agent 的核心能力——自主规划、记忆、使用工具 （网页、软件、 AI Agents That Matter 》中提出在 AI 时代， AI Agent 具 备复杂环境适应、自主目标追求、自然语言交互、低监管依 赖、采用特定设计模式且控制流由 LLM 动态驱动等特征。 复旦大学自然语言处理实验室 《 The rise and potential of large language model based agents: a survey

项目中已通过行业属性处理部分缓解这一问题，具体方法是将万得一级行业分类 作为控制变量，并采用独热编码（One-Hot Encoding）对行业属性进行特征化。 这一设计旨在强制模型区分不同行业的运营特征与语言风格，例如金融行业的“资 本充足率”表述与公用事业的“基建投资周期”描述在文本和财务指标上存在显 著差异。通过独热编码的行业标签，模型能够学习行业间的基线差异，避免将行 业特性（如公用事业的低利润率 降低拥挤度的权重，优先保留景气度与趋势的协同效应。当景气度与趋势共振时， 交互特征的贡献度显著提高，而景气度维持高位但趋势转弱，AI 会降低该组合特 征的优先级，提示需谨慎配置。 用户可通过自然语言指令获取 AI 的数值结果与可视化输出。例如，输入“输出当 前动态分位数阈值”，AI 会返回经过滚动窗口和衰减系数调整后的具体数值（如 景气度阈值从历史均值 6.5%升至 7.2%）。输入“展示 MLA 本预处理规则或引入行业特定语义校准，提升模型在未训练行业中的稳健性。 实战部署与系统架构 问题 1：技术环境使用哪些编程语言、AI 框架与回测平台？ 在技术环境方面，项目主要依托 Python 语言完成全流程开发。Python 作为金融 量化与 AI 融合的首选编程语言，承担了数据清洗、模型构建、AI 对话接口调用、 可视化绘图以及回测数据准备等核心任务。其开源生态与丰富的第三方库（如 N

动生成一系列详细的设计效果图和三维模型，涵盖产品外观、 用户 界面、交互体验等多个方面。 同时，大模型可以自动生成制造 业代 码，特别适用于重复性高、逻辑简单的任务，大大提高了编程 效率。 使用者可以通过自然语言交互，更简单快捷地实现相应的代 码能力， 减少了对专业编程技能的依赖，降低制造业落地人工智能 技术的门 槛。在生产制造阶段，大模型可以智能调度机器人提高生 产效率， 辅助进行安全检测。大模型能够实时监控和优化生产过程，生成最 据，实现了更加复杂的预测与决策能力，不仅可以更加精准地预测 设备故障，还能够在生产流程中实现更全面的优化与调度，减少资 源浪费并提升生产效率。此外，大模型在智能供应链管理、复杂工 艺流程优化等领域也展现了显著优势。通过对自然语言、图像、声 音等多种数据类型的融合处理，大模型推动了制造业各环节的自动 化与智能化。国内外大型企业华为、百度、微软等，都在加快制造 业大模型落地实践。除大企业外，国内诸如创新奇智、思谋科技等 运动控制和人机交互的能力。在国内大模型厂商中，创新奇智的 ChatRobot 生成式工业机器人，借助工业大模型能力，构建了多模 态、 端到端的视觉－语言－动作模型（vision-language-action, VLA）， 实现了自然语言驱动的机器人操作控制。二是质量控制，深度融合 大模型与计算机视觉技术，借助人工智能技术对生产过程中的多个 连续环节进行实时监测和分析，快速发现异常和缺陷，调整生产参

DeepSeek 下载量霸占 165 多个国家榜 首 2024 年 11 月 2023 年 5 月 2025.1.20 低成本完美对标 OpenAIO1 ，突破精确语义理解及复杂推理任务 数学 + 编程领域大幅领先， DeepSeek-V3 训练成本不足 Meta/OpenAI 的 10% ， DeepSeek-R1 推理成本仅为 OpenAI o1 的 3% ，成为开源模型 SOTA 技术创新 数学、科学和代码等领域领先业界， 成为业界公认的 LLM 的领先模型 来源： DeepSeek 模型测试数据 & 互联网 • 绕过 CUDA 进行 PTX 编程 • 计算与通信优化，性能提升 30% • GRPO ：群体进化的智慧筛选器 • 自我验证机制： AI 的 " 错题本系 统 " • 混合专家模型的 " 智能路由器“ • 多头潜在注意力 MLA 包周期 / 按需 GPU 包周期 / 按需 Dify 工作流平台 部署 / 计算 Flexus X 实例 包周期 / 按需 1. DeepSeek 性能卓越，用户体验佳，拥有强大的自然语言处理能力， 其思维链的特性进一步强化了上下文对话能力。 2. Dify 内置联网搜索插件，可实现大模型联网搜索的能力 知识的对话助手

及生 成代码修复方案 方案介绍： 当前AI辅助开发工具显著提升生产效率，产品迭代进一步加快，安全审查和渗透测试工 作量激增。长亭科技“慧鉴”是自主研发的新一代静态应用程序安全测试系统，专为AI 编程时代打造，致力于解决代码安全、质量和合规三大核心问题。 方案示意图/拓扑图： 用户价值： • 自身安全需求：通过深度集成到CI/CD开发流程中，实现代码安全前置，显著 提升软件产品整体安全性和代码质量水平，从源头保障软件安全。 先进可靠的实战化、体系化、常态化的智能安全运营能力。 产品采用数据流分析、控制 流分析、污点分析、约束求 解、符号执行、AI辅助分析 等前沿静态检测技术，显著 提升检测准确度和覆盖范围。 系统支持20多种主流编程语 言，内置超过3000条检测规 则，覆盖OWASP、CWE、 SANS等国际标准以及国内 外合规要求，支持对接常见 的开发IDE、CICD流水线， 为现代软件开发提供全方位 的安全保障。 关键经营数据分析——现⾦流健康度继续下降 3、开发者平台 Prompt 安全测试与沙箱 4、智能客服与对话机器人安全防护 5、企业级AI平台的接口与数据安全防护 1、Prompt 语义检测与越权拦截 2、数据流与接口安全监控 3、多语言 / 多模态上下文关联分析 4、访问控制与身份鉴别 5、自适应安全策略更新 1、攻击手法快速演变 2、模型与数据复杂性高 3、误报与漏报风险 4、高精度语义分析耗时耗算 5、对抗 Prompt