淘宝智能客服架构演进之路（22页PPT）

微信扫码，打开到小程序

淘宝智能客服架构演进之路 演讲嘉宾 古墨 阿里巴巴 & 高级技术专家 目录 01 阿里电商客服业务背景介绍 02 阿里电商客服业务架构的演进 03 总结 01 客服业务背景介 绍 近亿次咨询 / 每日 客服工具平台全链路智能化、数据化（商家提能增效、提升消费者满意度） 01 阿里电商客服业务背景介 绍 消费者 数千万 商家 几百万 • 分流系统 • 分流排队系统 • 事件驱动的业务系统 • Ai 能力与接待场景的结 合 02 业务架构演 进 第二阶段 第一阶段 第三阶段 02 业务架构演进第一阶段：分流系统架构 • 分流业务 • 消费者咨询和客服服务资源之间的负载均衡解决方案 • 系统性能上的挑战 • 先分流后建立聊天会话（ IM 聊天的关键节点） • 今年双 11 峰值 QPS 6W+ • 日处理约 5 亿次请求，平均 RT 约 3ms • TOP 商家对分流逻辑提出更多的个性化需求 • 通用需求 • 权重分流，客服分组，页面来源分流 • 个性化需求 • 基于商品分流、基于订单状态的售前售后分流、基于人群分 流、基于地域分流 • 排队分流 客服繁忙度 客服在线状态 店铺分流设置 更新状态 / 设置 更新 DB 和缓存 分流设置查询 状态变更订阅 状态数据查询 分流规则引擎 更新 分流引擎 02 业务架构演进第一阶段：分流系统架构 • 分流引擎：读写分离的设计方案 状态 / 设置变化 消息分流请求 亮灯分流请求 分流请求类型 cache + MySql 状态 / 设置 同 步 客服分组设置修改 客服员工状态变化 分流请求解析 分流规则设置 读取状态 / 设 置 客服繁忙度 客服在线状态 请求分流 查询 02 业务架构演进第一阶段：分流排队系统 • 大流量期间大商家的业务痛点： • 买家体验差 • 客服效率和服务质量低 • 客服主管缺少监管手段 • 排队功能介绍 千牛排队模式 接待 接待 接待 售前分组 售后分组 自助服务 分流队列 分流调度 客服接待 自助服务统计 排队人数监控 接待详情统计 实时接待监控 会话创建 买家出队 分配客服 云端机器人 服务助手 买家 • 千牛旺旺客户端多端多版本 • 用户存在跨多个端多个版本 的 可能 • 无法保证老的版本上的用 • 服务端集中式的会话状态管理 • 服务端横跨多个应用和服务 • 中间的系统调用存在失败的风险， 跨应 用 的分布式事务成本太高 02 业务架构演进第一阶段：分流排队系 统 • 业务补偿逻辑保证排队状态和数据的最终一致 性 旺旺 & 千牛服务端 分流引擎服务端 不两 8 旺旺 & 千牛客户 端 队列存储 • 排队数据的上帝视角 • 买家排队等待时间的查询 • 客服主管对店铺接待情况的实时掌 控 • 业务上对队列的特殊要求：优先级， 插队，空闲分组主动消费 • MySQL 的复杂查询能力支撑 • MySQL + 容量规划 • zookeeper 管理商家分片 + 单线程的机 制 • 商家分片管理后， failover 的保障 • 慢出队，支持插队，混合接待 等 调度 • pull 的方式消费队列 • 集中式的会话管理的高并发处理 • • 客服的接待会话数不能超上限 • 机器无状态竞争带来分布式锁 的开销 队列存储的处理 • 支持队列的动态管理：随时增减， 随时开关，队列数量大 • 快入队，支持 top1000 的商家 接 待 02 业务架构演进第一阶段：分流排队系 统 商家客服分组 A …… 分配排队买 家 买家咨询请求 商家客服分组 B …… …… …… …… …… …… 02 业务架构演进第二阶段：客服业务系统架构升 级 日均近百万职业客服在线工作， 按人均几千元月收入计算， 降低人力成本 提升引导成交 数百亿 主管场景 • 自动化 （智 能 化） • 数据化 消费者场景 • 鼓励自助 • 操作便捷 S 商家年支出客服成本约为 • 高效 率 • 低门 槛 客服接待场景 C M 客服主管后台 实时监控、现场调度、智能质检、自动化 任务 02 业务架构演进第二阶段：客服业务系统架构升 级 客服接待面板 实时接待数据、智能插件、智能提示 买家端 自助服务窗、输入联想 • 系统业务独立分支发展带来的问 题 • 基础能力上重复建设， 复用率低 • 业务功能模块依赖关系混乱 • 系统处理能力不均衡 02 业务架构演进第二阶段：客服业务系统架构升 级 l 商品问题咨询 l 店铺活动 l 店铺优惠 买家咨询 l 物流进度咨询 l 退换货 l 中差评 IM 8 商品系统 交易系统 客服操作 电商内部操作 l 查询 ERP 中的物流状态 l 修改 ERP 中的收货地址 l 备注发货信息 l 查询退件物流信息 l 申请退款 内部工单系统 以场景为切面，将消费者、客服、业务系统 有机的结合 l 查询商品信息 l 修改订单价格 l 查询优惠信息 l copy 收货地址 l 修改淘宝收货地址 02 业务架构演进第二阶段：客服业务系统架构升 级 l 是否包邮 l 优惠券 l 核对 / 修改收货地址 l 催付 售前咨询场景 售后咨询场景 淘系业务操作 售中咨询场景 ERP 系统 02 业务架构演进第二阶段：客服业务系统架构升 级 买家自助服务 买 家输 入 联想 底层能力 + 开放 业务功能卡片 客服插件 / 主管版开放 框架 商家系统信息互通 二方业务接入 阿里通信 客服工具 客服主管工具 数据沉淀 主管管理 分流服务 客服接待 客服机器人 数据监管 02 业务架构演进第二阶段：客服业务系统架构升 级 商家 ERP 商 家 CRM 商 家 WMS 商家 订单系统 事件引擎 实时计算 订阅关系 消息频率控制 消息通道开放接入 客 服能 效 数据 （移动版） 客 服能 效 实 时数 据 恶 意买 家标签 …… 首 句响应 时长 响应时长 接 待人 次 买 家咨 询 数据 分 流排 队 买 旺机 器 人 商品分流 辱 骂预 警 店 小蜜 机 器人 AG 订 单 售 后 不 良接 待 预警 进 店咨 询卡片 自助服务窗 知 识库 智 能辅 助 智 能客 服插件 实 时绩 效 AG 售 后 任 务 AG 批 量 退 款 非人工接待管理 素 材库管 理 智 能质检 报告 实 时调 度 管理 咨 询热 点 分析 分 流管 理 AG 评 价管 理 店 小蜜 互动菜单 热 门问 题分析 大 盘业 务 数据 商 家服 务 数据 会 员标 签 询 单转 化 订 单分 流 基于会话的接入方式 . 会话管理 . 单轮交互 . 多轮交互 . 自定义菜单输入交 互 Ai 服务能力的接入 业务场景的 识别和定义 . 服务的注册 . 服务的发现和订阅 . 场景的定义 . 场景的识别 . 场景可选服务的路 由机制 02 业务架构演进第三阶段：客服业务系统与 Ai 能力的融 合 02 业务架构演进第三阶段：客服业务系统与 Ai 能力的融 合 业务架构演进第三阶段：客服业务系统与 Ai 能力的融 合 02 结合场景抽象出业务本质的模型来指导设计 跟随业务的复杂性不断的调整和优化架构设计 团队成员统一架构上的认知 总结 03 Thank you!