实时风控弹性架构： 全场景解决方案 智策平台 模型编排 实时计算平台 (Flink) 业务 系统 外部数据平台 指标引擎 规则引擎 实时风控 实时特征 工程 模型引擎 离线特征工程 机器学习平台 数据服务平台 离线数仓 模型训练 模型推理 指标 API 数据 API 数据湖 #1 #2 #3 #4 建设背景 预警 通知 加强验证 数据 交易请求 业务场景：反欺诈 可 信 可 疑 高 危 机器 / 深度学 习 模型 营销模型 申请模型 交易模型 智策平台 机器学习平台 离线特征工程 离线数仓 (GaussDB) 数据服务平台 外部指标缓存 （ HBase ） 零售电子 渠道整合 系统 技术架构：反欺诈 数据湖 (Hudi 、 Iceberg) 实时计算平台 发卡 授信发放 行为评分 (B 卡 ) 催收评分 (C 卡 ) 申请评分 (A 卡 ) 实时信贷指 标 离线信贷 数据 贷中 贷后 逾期应对模型 交易行为指标 临期 / 逾期指 标 额度调整 预警管理 离线数 据 外部数据 贷前 机器学习平台 离线特征工程 贷中 / 贷后指标 （ HBase ） 机器学习模型 调用 技术架构：授信 数据湖 (Hudi 、

天内完成，需要 1558 颗 A100。内存角度， GPT-3 训练至少需要 3.2T 内存，至少 44 张 A100，推理任务则主要受显存限 制，需要 4 至 8 张 A100，因此完整的模型无法在终端上离线运行。 优化后大模型可在旗舰机型芯片上运行，AI 落地有望推动新一轮换机潮。 AI 部署本地化具有必要性，优势包括更低的延迟、更小的带宽、提高数据安 全、保护数据隐私、高可靠性等。完整的大模型仅参数权重就占满一张 为众多复杂 AI 模型的控制中心，同时也是接受用户指令的交互窗口，实现 《钢铁侠》电影中“贾维斯”式综合智能管家。23 年 5 月，Google 推出 PaLM 2 轻量版 Gecko，其可在最新的旗舰机型上离线运行。同月，OpenAI 首次推 出 ChatGPT 移动端应用，各家大厂正式进入 AI 模型移动端创新、竞争时期。 智能音箱、全屋智能中控屏、手机、MR 等均有望成为这一时代的交互入口。 产业链 信息，而无需将其暴露给人类， 大大增加了任何需要分析外貌、声音、医学图像或任何其他个人信息的隐私安全。 即使部分数据是出于培训目的而上传，也可以将其匿名化以保护用户身份。 5）高可靠性：去中心化和离线功能使边缘 AI 更加稳定，不受网络访问限制，这 是关键任务系统稳定运行的必要条件。 当边缘 AI 应用程序遇到它无法准确处理的数据时，它通常会将其上传到云端，以 便 AI 算法可以重新训练并从中

边缘算力服务 边缘云 基础设施底座 计算 边缘安全 边缘计算节点 加速 应用 边缘实例 (CPU/GPU/ARM ) 边缘渲染 边缘智能 AI 推理 规则引擎 离线渲染 实时渲染 数字证书 WAAP SASE 数据管理 边缘应用 服务 云边管理 边缘计算节点 镜像 构建机 边缘智能 AI 推理 规则引擎 边缘渲染 离线渲染 实时渲染 智慧园区 影视动漫 AR/VR 视频上云 数字孪生 云游戏 实时音视频 视频直播 游戏加速 任务管理 智能调度 云边通道 集群管理 业务告警 源站告警 水位告警 用量告警 HTTP2 QUIC 双栈加速 HTTPS 基础 服务 基础 底座 用户 体验 产品 能力 基础 平台 性 能 优 化 实时渲染 离线渲染 智能调度 任务管理 主流三维制作软件和渲染器 稳定、高速的文件传输协议 实时通讯网络 高性能边缘硬件 (X86 、 NVMe 、 100G/25G 智能网卡、 GPU ) 全国覆盖的边缘节点

管理—工业互联网平台深度赋能 实时数据 离线数据 • Modbus 协议 • JT/T808 协议 • MQTT 协议 • 提供其他协议转 MQTT 协议的 SDK • CSV 格式 • XLS 格式 • XLSX 格式 • 用户可自定义表头（需提供对应文档） 丰富数据接口 系统通过对大量数据接口及文件 格式的兼容，可链接多种实时、离线 数据，从而满足故障诊断客户初次加 动、温度、流量、压力等。 用户数据 数据预处理 特征探索 机器学习建模 模型评估 批量 / 实时诊断 数据预处理 历史数据 实时数据 特征提取 大数据分析 样本库构建 模型训练 分类 / 预 测 离线 在线 振动信号 转速信号 温度信号 载荷信号 石化装备 AI 管理—主要功能组件 配置接口 拖拽算法模型 自定义诊断规则 灵活数据展示 定制化业务 可配置诊断规则 灵活展示组件 定制化业务逻辑

DRAM，显著加速 QPS（每秒 查询数）和响应时间，降低访问延迟。比起“小 L� + 多核”的设计，至强 ® 6 的“大 L� + 强核”架 构，能显著降低 P�� 查询延迟，稳定服务体验。 2、离线数据处理业务 针对离线数据处理业务的高吞吐计算能力、海量存储弹性扩展、高效数据传输、低延迟网络以及高容 错与数据可靠性保障等要求，ECS g�i 支持弹性临时盘和高性能存储解决方案，在本地 Shuffle 测试 微秒，可实现大规模 组网及高弹性等优势，这有助于提升离线数据处理的 I/O 带宽和效率。 高性能存储：ECS g�i 支持存算分离架构，用户可以根据业务需求灵活配置计算和存储资源。 例如在构建数据存储方案时，可以根据冷热数据的不同需求，将数据存储在 OSS（对象存储服 �� 务）中，并通过 EED（临时缓存盘）提供高性能的临时存储服务。这种架构有助于提升离线数据 处理的灵活性和效率。 内存通道升级：至强 内存通道升级：至强 ®6 性能核处理器内存通道从 8 通道升级到 12 通道，能够输出更大的内 存带宽和更高的数据传输速率，有助于进一步提升数据预处理任务的效率和体验，特别是对于 需要处理大量数据的离线任务来说至关重要。 3、游戏 / 量化交易业务 游戏和量化交易业务均对实时性、计算性能与稳定性要求严苛。例如游戏后台必须持续低时延响应 玩家操作，以保障足够流畅的体验，同时，高帧率渲染和复杂环境模拟对后台的计算资源需求极大。

策略控制器 知识引擎 实践案例 - 算法实践： xx 云基于大模型 Prompt 引擎实 现本地 API 联通的定制化告警分析设备 现网设备日志 根据现网数据库分析告警事件， 结合离线知识库进行业务问答。 离线知识库 现网数据库 大模型盘古 任意大模型 开源大模型 前端效果信息 动态控件请求 参数缺失 / 有 误 实践案例 - 服务实践： Prompt 引擎服务设计 架构 对话上下文 展示答案 参数提取 检查改正 ⼊参检查 需要调用 API 指令微调 预训练 答案准确 DPO PART 04 大模型知识迁移打造运维专精模型： 工业场景需要增强可离线部署的小型 LLM 的日志分析能力，以更好地理解 Prompt • Although Vicuna has only 13B parameters, when equipped

• 发现应用配置缺陷导致的安全问题 • 快速发现系统和应用的新型漏洞 • 智能化的弱口令检测，支持多种应用 • 发现运维人员的违规操作 合规性监测 •IP 资源被占用监测 • 重要 IP 资源离线监测 • 禁用软件监测 禁用硬件监测 • • 禁用端口监测 禁用服务监测 • 漏洞修复 • 数据指标丰富、质量高，可视 化，提供个性化定制服务，完美 匹配用户的实际使用场景 • 深度发现和分析零日漏洞（ 0DAY ）、恶意代码、黑客控制及渗透行为等已知、未知攻击及控制行为。 主机控制检测 网站控制检测 异常通信检测 隐蔽信道检测 DGA 域名检测 实时流量采集 离线流量重放 支持 70+ 种文件还原 自定义文件格式还原 WEB 攻击检测 远程漏洞攻击检测 邮件攻击检测 挂马攻击检测 恶意文件检测 Kill Chain 分析 ATT&CK 技术点分析

程需要同时实现一个扩展库的接口，定义新的 nGraph 的 操作和实现一个执行计算的 Kernel 函数。更多信息可参考 OpenVINO ™ 工具套件相关文档 20。 能有着较高要求。而非实时离线识别一般是对较长的录音文件 进行识别，典型应用如会议录音文本化存档，对处理并发量以 及识别准确率等有着较高要求。 实时在线语音识别 在实时在线语音识别过程中，方案首先需要将不定长的语音信 理的输 入形式。再根据模型库提供的声学模型、语音模型和发音字典， 对声学特征进行解码搜索，获得对应的文本结果。 基于以上流程，思必驰方案能根据教育机构需求，既用于实时 在线识别，也用于非实时离线识别。其中，实时在线识别一般 是在会议、教学等场景的进行过程中，对语音进行随时采集、 随时识别，典型应用如会议实时字幕系统，就对系统时延等性 基于英特尔优化方案的应用案例 语音输入 识别结果 层。在定义新的操作时，需要通过继承 ngraph::op::Op 基类 实现，示例代码如下： 在应用程序中，可通过类似于下面的示例代码，将扩展动态库 提供推理引擎： 非实时离线语音识别 面向大音频文件的离线语音识别一般对识别实时率不敏感，但 对识别准确率要求较高。因此在系统设计时通常采用在云端 / 数据中心进行识别。 63 62 实 战 篇 实 战 篇 英 特 尔 中 国 教

第一阶段平台业务较少，主要为 58 信息、企业发布以及简历发布，采用人工审核 配合部分机器审核的手段。此阶段主要规范了系统的边际，包括 UGC 产生后的一 系列流程操作。经过在线检测后，分成了两个分支，其一经过离线检测，其二经 过人工审核，并行操作，两者的结果最终通过判断执行模块进行审核执行操作。 为了加强对外部情势的感知，主要主动采用“卧底”黑产群，通过购买各类黑产 软件，探索平台漏洞，对系统进行更新迭代。 游数据服务造成的影 响。 DataFunTalk 成就百万数据科学家！ 67 第三阶段整体实现了毫秒级的响应速度、目前已支撑千级别业务场景、全场景内 容服务覆盖、上万节点集群规模、百亿量级离线分析能力以及全自助平台管理。 第四阶段：专家指挥、智能审核 第四阶段为正在实现中以及对未来的规划方面，包括：  隔离方面，目前业务间的隔离还没有做到极致，后期会对数据库、人工审 核、配置中心等进行隔离； 反 欺 诈 模 型 框 架 1. 迭代触发 迭代触发的条件可以自行设定，该模型可以按照时间周期迭代，也可以在 实际业务效果下降后触发迭代。 2. 变量库 我们的变量库由线上实时计算的变量和离线 T+1 清洗的变量组成，当新 的模型触发迭代时，近期的样本会构成候选变量池。 3. 变量处理和变量筛选 我们对候选变量先进行一轮特征工程。这主要包含两个步骤。  变量检查。我们将包括变量自身分布的稳定性指标

传统的质量检测是在某些间隔 “离线” 进行的 — 通常是在两个或更多添加步骤完成后。例如，在晶圆研磨和膜应用后检查一 定比例的晶圆。但也因此，离线检测带来了几个挑战： • 高风险产生废品和缺陷逃逸。在对一个晶圆批次进行检查时，可能已经处理了多达九个更多的批次。如果机器或过程错误 引入了缺陷，很可能会损坏更多的晶圆，导致高废品和低质量产品的风险。 • 检测受阻。因为在离线检查之前会发生多个添加过程 晶圆研磨过程中的多种类型缺陷，包括凹痕、 各种大小的划痕、研磨痕迹、污点、裂纹、气泡、晶圆偏移和安装偏移。与离线检查相比，使用在线检查可以更早地检测到 多达 50% 的晶圆研磨问题。当警报响起时，可以对晶圆进行返工，这避免了下游过程中的整片晶圆分层。更重要的是，该 解决方案超越了离线计量所能实现的：在问题发生时检测偏差，检测过程缺陷并迅速关闭工具，实现了检查框架清洁度和内 环的新能力。 帮助工厂实现业务效益： 帮助工厂实现业务效益： • 避免废品，每年为工厂节省高达 200 万美元。 • 降低了业务风险。 • 更高的产品质量。 • 使工程师免于繁琐的手动离线检查。 49 03 成功案例 3.2 美的楼宇科技美控： 楼宇 AI 节能解决方案 背景与挑战 解决方案 随着全球对可持续发展的呼声日益高涨，建筑行业正面临前所未有的转型挑战。据《2023 中国建筑与城市基础设施碳排放