AIGC引领保险数智化变革（17页 PPT ）

微信扫码，打开到小程序

AIGC 引领保险数智化变革 李立 新华三集团高级副总裁、首席科学家 2024 年 05 月 02 新华三能力集 STN ETN OC 录 目 01 人工智能发展趋势和保险适用场 景 03 新华三落地实 践 人间一日， AI 十年，大模型技术日新月 异 2023.12 ◦ Google Gemini 系 列 发 布： ◦ OpenAI 对手开始出牌， 竞 争正式加速升级 2022.11 ◦ Chat GPT ◦ 大语言模型进入公众视野 ◦ 开启人工智能 Iphone 时 刻 2024.2 ◦ OpenAI Sora 发布： ◦ 视频生成代际跃迁，再 次 证明 AGI 相对“窄 AI” 的 代际优越性；虚 拟现实成 为可能 2023.4 ◦ 斯坦福小镇论文 - AI Agent ： ◦ 硅基文明的无限可能 性：使用工具、协作和 决策能力的首次实验 2023.9 ◦ Mistral-7B ， Mixtral-8x7B 开源： 模型小型化的里程碑， 打平超越 GPT- 3.5(175B) 2023.11 ◦ GPTs + Assistants API ： ◦ 初级 Agent 形态与 GPT 生态构建 2023.2 ◦ LLaMA 开源： ◦ 开源生态的反击， 大多数公司的“自 研”有了基础 2024.2 ◦ 英伟达 Chat with RTX 发布 : ◦ 端上智能的曙光 ◦ GPT-4 上线： ◦ “ 与 AGI 的第一次接 触”，人类开始看到 “世界模型”的影子 。2023.2 ◦ ControlNet 提出： ◦ AI 生图控制基础，文生图 成 为真正的生产力工具 2023.3 3 数据平台建设 （ Data Lake/warehouse ） 数据入湖 数据集成 数据分析 数据资产 数据服务 智能化 • 行业数字化转型路径明晰， “ IP 化 - 云化 - 数据化”为主线，智能化贯穿始 终 • 数据平台建设解决了数据使用问题， 但没有解决知识沉淀问题 基于大模型的反应系统 （ LLM based ARS ） autonomic response system 数字原生 能力集成行动系统 自主策略制定 自主任务执行 自主评估优化 大模型建设 （ Multimodal LLM ） AI 算法 AI 使能基础设施 公域大模型 预训练基座大模型 垂直领域私域大模型 大模型及应用成为知识沉淀的最佳载体 网络建设 设备互联全 IP 化 软件定义网络 网络即服务 NaaS 云平台建设 （ Cloud ） 业务上云 云原生 “ 数据化 - 知识化 - 自主化” 数据化 知识化 自主化 阶段， 云化 IP 化 下一 4 • 前台 通用金融场景 前台 专用金融场景 智能客服、智能投顾、智慧营销、智能助手、客 户获取、客户维护、客户跟进、智能话术、智能 投研、金融数字人 …… 中台 智慧风控、反欺诈、安全服务、自助分析、智能知识库 …… 后台 智能代码生成、智能运营、知识管理、人力管理、智能培训、文档处理 …… 大模型相关金融的应用场景 AIGC 在金融行业的应用场 景 保险 智能核保 智能理赔 银行 智能征信 贷款催收 证券 智能投行 智能资讯 保险产品智能配置 保险客服 代理人销售支持 保险行业适合的场景 事前预防减损 防欺诈 参考财通证券《保险 +AI 深度报 告》 车险定价 代码生成 智能定损 智能理赔 5 02 新华三能力集 STN ETN OC 录 目 01 人工智能发展趋势和保险适用场 景 03 新华三落地实 践 AI GPU 服务器 国产化 GPU 服务器 海量分布式存储 并行文件存储 RoCE 网络 IB 网络 800G 交换机 RDMA 无损网络 200G/400G/800G 全栈 液冷 突破 能效 瓶颈 新华三私域大模型 全栈能力， 一站式应用部署 —- 20 年深耕积累 新华三具备 AI 全栈解决方案能 力 新华三 AI 全栈解决方案能力布 局 AI 助手（ LinSeer Copilot ） 大模型使能平台（ LinSeer Hub ） 百业灵犀大模型 （ LinSeer LLM/CV/ 多模态） 2003 2013 2016 2018 2023 多元异构算力调度 激活数据要素价值 百业灵犀大模型发布 具备 AI 全栈能力 云计算产品线成立 启动云化布局 CloudOS 7.0 紫鸾 云平台 新华三集团成立 启动数据化布局 绿洲 数据平台 2.0 傲飞 AI 算力平台 绿洲 数据平台 3.0 绿洲 数据平台 1.0 CloudOS 云平台 CloudOS 3.0 云平台 CloudOS 5.0 云平台 华为 3com 成 立 布局 IP 化 AI 研究院成 立 启动 AI 布局 高性能 算力集群 高品质 网络连接 100G/200G 网络 全闪 / 混闪 存储 商用 / 国产化 CPU 服务器 NAS/ 超融合 / 大数据 存储 AI IN ALL SDN 交换机 路由器 数据化 云化 IP 化 7 充分发挥算力和联接双基石的乘数效应 “1” 百业灵犀私域大模型 AI for ALL 赋能百行百业，让我们的客户更智慧 算力 联接 算力多元化 联接标准化 AI in ALL 让新华三产品和解决方案更智能 基于行业数据与应用场景的大模型定制化和解决方案能 力政企联动、生态聚集、打造产业新高地 新华三智算战略 “N” 优选生态大模型 行业专注、区域专属、数据专有、价值专享 8 n 统一的数据共享平台， 支持行业 数据要素统一治理和管理 n 算力、存力、运力协同感知的高 性能计算集群 n 符合国家“双碳战略”的零碳绿 色 算力中心 算力基础设施 异构算力 GPU CPU ASIC 海量存储 对象 文件 分布式并行文件 无损网络 数据采集 智能调优 CT 设备 IT 设备 主动安全 安全感知 数据安全 网络安全 应用安全 保险行业智能化应用 代码生成 智能客服 内容生成 智能知识库 智能核保 智能理赔 智能风控 智能投研 大模型服务 提示词工程 预训练服务 微调服务 大模型评估 推理服务 大模型使能平台 零碳数据中心 云平台 傲飞算力平台 绿洲数据平台 n 大模型全栈能力， 支撑从模型到 基础设施一站式应用部署 新华三保险智算解决方案 百业灵犀 AI 助手 LinSeer Copilot 智能可靠 绿色供电 高效节能 液冷散热 》 数据 供给 ,' 数据要素提 供 容器 EIP VPC 裸金属 虚拟机 云存储 大模型 服务 数据标注 数据服务 算法开发 数据治理 数据开发 模型训练 应用推理 数据采集 可视化 模型仓库 调度优化 湖仓一体 数据管理 资源监控 工程化 数据安全 9 灵活 提供百亿及数百亿的两个模 型版本，并通过 DMOE 技 术 实现千亿乃至万亿模型 的支 持，提供灵活的模型 选择 高效 单卡完成模型推理部署，既 能够满足数十人并发需求， 支撑数百人日常使用，极大 降低模型部署和使用成本 专业 数十年行业客户理解，十数 个行业客户数据，训练出贴 合行业场景的通用底座模型 安全 百业灵犀大模型，提供专业、灵活、安全、高效的 能力 “ 通识”为基，“四专”为用，深度贴合行业场景 去除不合规的原始训练语料， 采用行业场景的训练数据， 从模型层面保证合规性 userid:532115,docid:163607,date:2024-05-31,sgpjbg.com 10 工具 & 框架层 算力基础设施层 大模型使能平台 (LinSeer Hub) 让你用好大模型 大模型一站式服务平台，集成 AI 助手，帮助行业客户用好大模型 ，快捷构建智能应用，实现“模型使用自由” • 模型灵活集 成 • 流程自动智 能 • 能力无限拓 展 • 行业专属适 配 • 安全多重保 障 自动任务分解 插件服务 评估优化 内容安全 问题侧防护 模型侧防护 答案侧防护 服务编排 提示词工程 多模型管理 应用层 政府 医疗 教育 企业 运营商 AI 助 手 自动智能 行业适配 模型集成 应用管理 知识库 推理服务 更 安全 更 灵活 更 高效 更 简单 生 态 伙 伴 + 新 华 大模型使能平台 模型层 11 三 AI 助手 请你请根据我提供的文件 ，汇总 提炼其中第三章节的内容 ，要求 内容提炼到 300 字 ，并将结果以 PDF 的 形式 反馈。 xxx.word xxx.pdf 第三章节的内容概括如下： 保险合同第三章的主要内容为： xxxxxxxxxxxxxxxxx xxxxxxxxxxxxxx 。 我已根据提炼内容创建文件“ xxx.pdf” 请点击下载。 提示词工程 任务拆解 Ⅱ 任务执 行 Ⅲ 插件调用 使能平台产品原理：驱动大模型，赋予应用智能 模型选择 / model-select Ⅲ 模型推理 分布式推理 / distributed-reasoning Ⅰ 任务计划 Ⅳ 响应生 成 大模型使能平台 LinSeer Hub 推理平台 跨模态 大模型 CV 大模型 插 件 库 大模型 12 NLP 向导化 图形化 开放化 工程化 • 分布式训练 • 大模型微调 • 大模型训练调优 • 可视化监控评估 • 基于质量管理 • 基于精度、类型 管理 • 全维度数据管理 • 多样化数据处理 • 云边端推理 • 云边端部署 • 交互式建模 • 拖拽式建模 • 知识库 • 向量库 • 能力集成 • 数据安全审计 一站式工程化套件实现 AIGC 落地应 用 向导式 + 图形化降低 AIGC 门槛，开放性 + 工程化加速 AIGC 落地 大模型使能 部署推理 模型管理 模型训练 / 微调 算法开发 数据处理 13 旷视天元 Mega Engine … 海光 DTK 软件栈 … DCU 阿里龙蜥 CPU （海光、鲲鹏、飞腾） 国产化算力技术栈 场景 算法 算法、应用 基础开发框架 驱动、编译、加速库 AI 芯片 操作系统 逻辑计算 新华三金融 AI 算力中枢，整合产业软硬件多元、 开放生态 人工智能计算业务 Kubernetes 调度 GPU 虚拟化 \Docker 金融国产化 AI 算力建 设 》 》 国产化计算池 大模型 Llama 、智谱、百度文心、阿里通义千问、百川 …… 商业计算池 Nvidia CUDA-X AI 生态 （ CUDA 、加速库、 函数库） CPU （ Intel 、 AMD ） 统一资源管理、作业调度层 Intel OneAPI 软件栈 AMD ROCm 软件栈 Nvidia GPU 基 础 计 算 算力资源 适配多软 件生态 异 构 算 力 基 础 商业化 AI 算力技术 栈 …Windows 寒武纪 Neuw are 软件栈 天数 iX 计算框 架 Ubuntu Tensor flow Intlel Gaudi2 CentOS GNMT Kaldi Pytorch 百度 Paddle Paddle … MXNet 昆仑芯 XRE 软件栈 低时延 无损网络 ResNet 高性能集群存储池 AMD MI 300 Caffe 一流科技 OneFlow 开 发 框 架 AI 集 群 AI 计 算 平 台 统信 UOS 中标麒麟 BI/MR 昆仑芯 14 MLU 建设 AIGC 前，应先进行自身业务分析并选择场景，依此确定技术方案及场景生 态 办公助理 AI 客服赋能 智能知识库问答 智能保险文档生成 保险行业 AI 赋能场景落地路 径 小规模算力基础设施 中规模算力基础设施 金融智算中 心 阶段一 阶段二 阶段 三 智能营销 代码生成 智能客服 AIGC 智能运 维 投研投顾 承保核保核赔 智能投研 数字人客服 总结业务痛点与 需求 构建初步方案与 落地路线图 理清业务流程 与数据资产 选择合作生态 选择试点场景 自身战略分析 场景应用 15 02 新华三能力集 STN ETN OC 录 目 01 人工智能发展趋势和保险适用场 景 03 新华三落地实 践 金融行业大模型 ICT 基础设施解决方案 落地保险头部客户 智能无损网络解决方案首次在金融行业 大模型中应用 AI 大模型专有网络 Hash 算法全行业 首 次落地验证 AI 大模型中 RoCE VXLAN 进行 租户隔离首次落地验证 AIGC 金融大模型 平安科技金融大模型 项目采用新华三大模型整 体 硬件解决方案项目， 采 用了 多项前沿技术。 无损以太网 SDN 租户隔离 LBN 算法应用 RDMA 可视化 某头部保险机构金融大模型组网方案总结 17