天内完成，需要 1558 颗 A100。内存角度， GPT-3 训练至少需要 3.2T 内存，至少 44 张 A100，推理任务则主要受显存限 制，需要 4 至 8 张 A100，因此完整的模型无法在终端上离线运行。 优化后大模型可在旗舰机型芯片上运行，AI 落地有望推动新一轮换机潮。 AI 部署本地化具有必要性，优势包括更低的延迟、更小的带宽、提高数据安 全、保护数据隐私、高可靠性等。完整的大模型仅参数权重就占满一张 为众多复杂 AI 模型的控制中心，同时也是接受用户指令的交互窗口，实现 《钢铁侠》电影中“贾维斯”式综合智能管家。23 年 5 月，Google 推出 PaLM 2 轻量版 Gecko，其可在最新的旗舰机型上离线运行。同月，OpenAI 首次推 出 ChatGPT 移动端应用，各家大厂正式进入 AI 模型移动端创新、竞争时期。 智能音箱、全屋智能中控屏、手机、MR 等均有望成为这一时代的交互入口。 产业链 信息，而无需将其暴露给人类， 大大增加了任何需要分析外貌、声音、医学图像或任何其他个人信息的隐私安全。 即使部分数据是出于培训目的而上传，也可以将其匿名化以保护用户身份。 5）高可靠性：去中心化和离线功能使边缘 AI 更加稳定，不受网络访问限制，这 是关键任务系统稳定运行的必要条件。 当边缘 AI 应用程序遇到它无法准确处理的数据时，它通常会将其上传到云端，以 便 AI 算法可以重新训练并从中

调整时，通过中断和处理函数方式，动态模拟 CPU 上下电。 MPAM 插件： 通过限制离线业务对内存带宽和 L3 缓存容量的占用，避免离线业务干扰实时业务的性能： » 每个计算节点上部署 MPAM 插件，YAML 文件中配置资源组，每个资源组可指定内存带宽和 L3 缓存容量。 » 部署离线业务时，在 YAML 文件中指定该业务归属的资源组。 » MPAM 插件侦听到部署任务后，将容器中业务的进程 内存分析 GC 分析 IO 分析 快照 / 对比 业务热点分析 (HTTP/SQL/NoSQL) 线程 / 锁分析 I/O 分析 内存分析 GC 分析 热点分析 快照 / 对比 数据报告离线导入 云服务化 鲲鹏原生开发技术白皮书 / 52 鲲鹏原生开发能力介绍 表 3-1 任务描述 任务分类 描述 在线分析 在线分析包含对于目标 JVM 和 Java 程序的双重分析。包括 的变化趋势，定位潜在的资源泄露问题或性能指标恶化问题。 53 / 鲲鹏原生开发技术白皮书 鲲鹏原生开发能力介绍 任务分类 描述 采样分析 通过采样的方式，收集 JVM 的内部活动 / 性能事件，通过录制及回放的方式来进行离线分析。这种方式对 系统的额外开销很小，对业务影响不大，适用于大型的 Java 程序。 主要分析结果包括： 1. 概览 • 显示 Java 虚拟机系统状态。 • 通过采样及回放的方式显示 JVM

AIGC 时代，让每一个营销活动都和“我”相关 1 9 大模型与保险营销 基于分割、融合、 3D 等技术，实现对图像或视频中的人物提取以及再加工，实现人脸融合效果，支持 API 、 SDK 和离线服务 等方式 高精度人脸融合服务 视频人脸融合 图片人脸融合 实时融合 用户照 素材图 融合图 2 0 AIGC 时代，生成一个数字世界里的“ AI 业务员” 2 1 大模型与保险营销

边缘节点， 减少数据传输延迟。适用场景： n 低延迟需求：如物联网、实时监控等需要快速响 应的场景 n 带宽有限：数据传输成本高或带宽有限时，边缘 计算可减少数据上传 n 离线运行：需要在网络不稳定或离线时仍能正常 运行 边缘部署 结合云端和本地部署，DeepSeek大模型部分系统在云 端，部分在本地。适用场景： n 灵活需求：部分数据需本地处理，部分需云端处理 n 过渡阶段：从本地逐步迁移到云端时，混合部署可 GPU 部署模型持平的 效果，并提供稳定的生产级服务能力。还与智谱 AI 等厂商 合作模型广场，客户可一键调用超百个垂直领域模型 大模型云端部署参考方案 4.4 为什么需要本地部署大模型 离线与高效使用 定制化与灵活性 数据隐私与安全性 成本与资源优化 避免使用限制 本地部署 大模型 4.5 企业部署大模型规划路线 数据治理 知识库 大模型 第一阶 第二阶 第三阶 知识库——

——实时数据分析查询的分布式解决方案 （该案例在“鑫智奖·2025 第六届金融机构数智化 转型优秀案例评选”中荣获“专家好评 TOP10 优秀案 例奖”） 扫码查看完整案例 进行聚合、加工和处理，同时离线与实时数据处理互相 补充，保证数据一致性、时效性和完整性；引入流式计 算引擎 Flink，集成 CDC 变化数据捕获技术，实现高吞 吐、低延时的实时数据处理，支持每日数亿级数据实时 计算和分 对外提供统一化和标准化的联机查询接口服务，满足 银行核心业务日均上亿级别的明细流水、登记簿和历 史账户等重点交易查询需求。 2. 支持构建灵活可扩展的离线数据模型和实时数据 处理平台，支持不同场景的离线实时数据统一处理，为 客户提供高效的收支分析新体验。本方案采用实时离线 结合的数据处理架构，支撑对日均数十亿条以上的数据 在银行业不断能力开放和数字化转型的大背景下， 邮政储蓄银行业务迅速发展，新产品、新业态层出不穷， ①准实时对账引擎：构建独立核算流水与业务流 水准实时比对测试框架，采用全局流水号精准匹配， 识别差异并提交缺陷跟踪。 具体可参照图五中测试框 架流程： ②大数据量批量核对：测试基于 Spark 的离线核 对任务，处理 T+1 日亿万级流水，支持多维差异分析（渠 道、产品、账户）。 经过充分测试的高质量系统投产，能有效支撑千万 级用户交易使用稳定性与资金安全，提升客户对银行系 统的信

Kafka需要额外资源进行部署，同时需要维护团队 告警消费需要进一步处理筛选 自定义能力稍弱，需要具备定制化配置。 高吞吐量，分布式消息队列支持大规模数据推送 可持久化存储信息，即使消费者离线也能保证数据可靠地传输 SNMP接口通过SNMP协议向第三方系统发送告警Trap，同 时接收并响应第三方系统发过来的命令。标准的对接协议，协 议友好性，支持大多数告警对接。 28 监控指标一般通过如下三种对接方式： 统，不重 启被监控的服务也可以对其监控 Kafka需要额外资源进行部署，同时需要维护团队 告警消费需要进一步处理筛选 高吞吐量，分布式消息队列支持大规模数据推送 可持久化存储信息，即使消费者离线也能保证数据可靠 地传输 目标系统的数据类型和数据格式强依赖API接口的完备 程度 简单易用，适用性广泛，通用的方式可用于各种类型的 系统集成 可自定义模块和属性字段，获取想要的模型信息 对接方式

化算力度量 体系（涵盖 CPU、GPU、内存、网络等指标），将分散的边缘节点转 化为可统一调度的“虚拟算力池”，提升资源利用效率。同时，边缘 算力节点的“弱网、单通”等网络特性，也要求系统具备离线自治、 断点续传等能力，以适应产业现场的复杂网络环境。 在跨行业应用支撑层面，不同行业对边缘算力的需求差异显著， 推动调度系统向“场景化、定制化”方向发展。例如，工业互联网场 景中，智能制造 因素受损。分布式 算力系统中，即使部分节点失效，其他节点仍可继续承担计算任务， 保障系统的整体运行。算力感知与调度系统持续监控承载服务节点的 状况，一旦某个指挥节点因敌方火力打击或强电磁干扰而离线，调度 系统则会依据预设策略，迅速将服务和计算“迁移”到网络中其他节 点上，并重新建立服务连接。这将改变传统指挥体系“中心即是弱点” 的困境，在部分网络被摧毁的情况下，指挥能力可以延续、作战体系

资 回报率，但可能会缩短长期价值。从这些计划中获得长期价值的组织利 用技术支持来促进更广泛的计划，这些计划更加以人为本并反映不断发 展的 EVP。 行动建议  从简化开始，采用分阶段的方法，消除离线流程并减少人为错误。 可衡量的回报将刺激对这些举措的需求，并揭示短期改进机会，为 员工队伍转型开辟道路。  开始与 HR、职能部门和业务领导者对话，了解在组织中启动增强 型互联劳动力计划的简单方法。收集对技能、角色、方法差距和利

AI赋能的产业链环节不同，我们认为可以大概分为4类。 • C端自我管理：C端患者运用AI工具管理自己的健康，如慢病管理、个性化用药、健康数据追踪等； • B2C远程管理：C端患者和B端医疗机构脱离线下场景，实现远程互动，如远程影像、远程病理等； • B2C临床管理：AI赋能B端医疗机构的临床决策，如AI医生、院内大模型等； • B端自我管理：B端医疗机构利用AI工具提高内部运营效率，如电子

真建模、实时更新和反馈。 3.4.1 数据采集和传感 数字孪生需要在建模过程中获取与真实系统相对应的数据，以确 保模型的准确性和可靠性。数据采集与传感技术涉及到传感器、数据 采集设备和通信技术等，用于实时或离线地采集物理系统的各种参数 和状态信息。这些数据可以来自于物联网设备、传感器网络、监控系 统等，也可以通过人工采集和整理。数据采集与传感技术的发展使得 数字孪生能够更加准确地反映真实系统的行为和性能。