携程AI平台及客服机器人（28页PPT）

微信扫码，打开到小程序

携程 AI 平台及客服机器人 分享人：于磊 1 携程 AI— Democratize AI 2 携程客服机器人 & 知识图 谱 3 携程小诗机 4 Q&A 目录 CONTENTS Democratize AI 共赢、高 速创新 下一代的 OTA 用户体 验 合作、互补、共享 AI 的民主化—携程 AI 接入平台 智能 导购 自然 语言 语音 视觉 硬件 图片清晰化 活体检测 小诗机 多语种翻译 滤黄滤政 声纹识别 客服机器人 计算广告 语音合成 用户意图 图片风格转换 身份识别 情绪识别 图片识别 外部 AI 服务 模型评估 测评 标准化 选型 / 综合 携程 AI 接入平台 携程 AI 开放平 台 自研 AI 服 务 融合 · 共 创 图片检测携程小诗机 图片检测 (Image Detection) • 背景：检测图片物体标签，作为素材提供给写诗引擎 • 语料：类别 120 ，训练语料 10 万条 • 24 层卷积层 +2 层全连接层 Yolo 网 络 结 构 [1] Reffer to Redmon, Joseph, et al. “You only look once: Unified, real-time object detection 图片检测携程小诗机 图片检测 (Image Detection) • 背景：检测图片物体标签，作为素材提供给写诗引擎 • 语料：类别 120 ，训练语料 10 万条 • 24 层卷积层 +2 层全连接层 基于 CycleGAN 的“白天转黑夜” [1][2] 人脸识别 [1]. Image-to-Image Translation with Conditional Adversarial Networks [2]. Unpaired Image-to-Image Translation using Cycle-Consistent Adversarial Networks 携程 AI 开放平 台 视觉图像 携程 AI 开放平 台 智能个性化 携程 AI 开放平 台 智能导购 1 携程 AI 平台 2 携程智能客服 & 知识图 谱 3 携程小诗机 4 Q&A 目录 CONTENTS +66% +13% 酒店客服可自助场景解决率 94% 28% 15% 携程 AI 开放平 台 APP7.5 智能客服上线 APP7.4 用户输入联想 智能客服 APP7.3 售前 携程智能客服 售后 产品推荐 产品咨询 支付咨询 天气查询 交通方式 插科打诨 订单咨询 发票咨询 返现优惠 闲聊 分词 命名实体识别 相似相关词 句法依存分析 语义理解 文本聚类 文本分类 算法 Naive Bayes Word2Vec CRF SVM CNN RNN BI-LSTM+CNN 售前机器人 聊天对话历史 标准 QA 信息 酒店基本信息 机票航线信息 POI 信息 …… 用户意图识别 输入联想 情绪识别 对话管理 知识图谱 KB-QA 个性化推荐 携程客服机器人 少 数据 应用架构 售后机器人 翻译助手 客服助手 应用 模块 … Model 优势 RNN 获取长远的上下文信息，拟合非线性能力 CRF 考虑整个句子的局部特征的线性加权组合，目标是 p(y|x;w) 使得序列 的联合概率最大 HMM 基于马尔科夫性质 LSTM+CRF[1] 利用两个模型的优势 命名实体识别 . 应用场景  售前售后景点、目的地等识别  旅游名词识别  KB-QA 中识别主题信息 携程客服机器人 [1]. Z Huang, W Xu, K Yu. Bidirectional LSTM-CRF Models for Sequence Tagging - arXiv preprint arXiv:1508.01991, 2015 . 常用模型 用户意图识别 • 基于用户问题，使用意图分类模型进行用户意图的判定， 从 而 将用户问题定位到某个子领域。 • 辅助进行进一步的用户语义解析 • 基于意图信息，进行用户对话管理和状态分析 担保问题 促销活动 页面功能 投诉问题 支付问题 电话服务 变更取消 订单问题 名词解释 保险问题 0.00 0.20 0.40 0.60 0.80 1.00 1.20 担保问题 促销活动 页面功能 投诉问题 支付问题 电话服务 变更取消 订单问题 名词解释 保险问题 0.00 0.20 0.40 0.60 0.80 1.00 1.20 携程客服机器人 CNN 分类模型 SVM 分类模型 Precision Recall 标准 Q 匹配 优势 . biLSTM 可以从 forward 和 backward 两个方向获取上下文信息 . CNN 模型对平移、缩放等具有不变形，可以较好检测出特征区 域， 鲁棒性好。 . 最终，通过多组实验比较，发现 biLSTM+CNN 离线效果最佳。 [1] Applying Deep Learning to Answer Selection: A Study and An Open Task Minwei Feng, Bing Xiang, Michael R. Glass, Lidan Wang, Bowen Zhou ASRU 2015 [2] Lai S, Xu L, Liu K, et al. Recurrent Convolutional Neural Networks for Text Classification[C]//AAAI. 2015, 333: 2267 -2273. [3] WenY, Zhang W, Luo R, et al. Learning text representation using recurrent convolutional neural network with highway layers[J]. arXiv preprint arXiv:1606.06905, 2016. Max- pool Max- pool Max- pool Max- pool FC stack 携程客服机器人 2xn Conv 3xn Conv 5xn Conv 1xn Conv 100.00% 90.00% 80.00% 70.00% 60.00% 50.00% 40.00% 30.00% 20.00% 10.00% 0.00% 基 于 biLSTM- CNN 的 QA 匹 配 embedding layer 算法对比 pooling layer biLSTM layer output layer input layer conv layer cnn+tensorflow top1 准确 率 top3 准确 率 cnn+mxnet cnn+lstm biLstm+cnn RNN 携程客服机器人 FC QA- 检索 . 类似个性化推荐，分两步：检索 + 排序 . 适用 QA 量大的场景，例如闲聊，问答检索等 . 基于 attention 机制可以提升 QA 关联度 exp(u uw) σ t exp(u uw) si = a itℎ it t [1] Lowe R, Pow N, Serban I, et al. The ubuntu dialogue corpus: A large dataset for research in unstructured multi-turn dialogue systems[J]. arXiv preprint arXiv:1506.08909, 2015. [2] Yang Z, Yang D, Dyer C, et al. Hierarchical Attention Networks for Document Classification[C]//HLT-NAACL. 2016: 1480-1489. it T it T 最终排序结果 BM25,TFIDF 词语特征 基于深度模型 语义特征 u it = tanh(wℎ i t+ b w) 基于倒排索 引检索 a it = an a 2 基于检索的 QA s uw a 1 i 携程知识图谱 知识图谱 KB-QA 携程客服机器人 售前智能导购 1 携程 AI 平台 2 携程客服机器人 3 携程小诗机 4 Q&A 目录 CONTENTS 携程小诗机 Input: 景点写诗 城市写诗 天气、季节 心情 照片写诗 人名写诗 格律： 宝塔诗 律诗 绝句 性别及表情 识别： 严肃； 青年男性 ; 景物识别 & 成诗： 红楼； 梅花； 携程小诗机 Input: 景点写诗 城市写诗 天气、季节 心情 照片写诗 人名写诗 格律： 宝塔诗 律诗 绝句 照片地点 知识库： 西湖； 西湖的知 识库 时间写诗： 秋； 傍晚； 天气知识库 ; 基于情境的感 情： 春节前最后一 天； 人物画 像： 职业； 作品； 身材；风 格 携程小诗机 人机盲测 第 3 名 (11 场 ) 与上海地区诗人比，略 胜 目前 远超竞品 宝塔寺、情感、季节、天气、人物、绝句、律诗、城市、美食 西湖 . 雪 城巷夜空却白昼， 西湖山色故依然。 敢忘湿地凌冬约， 不负君梅岁竹缘。 万里重云寒水边， 满城娑树雪中天。 萧疏枫叶扁舟岸， 灵隐冷风谁顾怜。 澜 惊湍 水流漫 鲸波海观 江涌万卷蟠 香惹燕雀凉醉颊 玉屑梅蕊翠靥 偷香团扇妾 芳情细贴 花重叠 西湖 凉风乱入杭城路， 秋水孤山似旧年。 遍地桂花停过客， 侵帘绿影满湖边。 西湖 绿树余杭花草畔， 通都月色谁自怜。 喜听潇雨鸣枫叶， 安得凉风起桂筵。 久靠林荫堤岸伫， 长依湿地碧波边。 西湖桥下潺湲水， 凭有孤山却不前。 西湖 . 夏 重云深处引溪涧， 湖水孤山路远长。 遥爱断桥残夏早， 风清杨柳映通方。 莲花倚槛雨生雾， 荷叶绕船橹走旁。 林缝落光波潋滟， 寺边湿地色苍茫。 涛濑掀翻浪寒 激荡澎湃渺云端 春叶 蝶 思念 孤独 夏之愉悦 秋之悲伤 北京的雾 杭州的雨 黄山的雪 青海湖的晴 沙 - 正宝塔 沙 - 倒宝塔 景点 愉悦 赵玉玮 7.45 7.155 6.72 6.47 6.52 6.73 6.68 6.72 邹竞夫 8.37 7.575 6.705 6.49 8.22 6.41 6.685 6.32 6.425 6.24 6.375 AI LEE 7.885 8.14 6.195 6.535 7.61 6.225 6.07 6.4 6.15 5.91 6.4 卿云子 8.395 6.315 8.655 6.6 6.365 6.515 沈以昕 7.725 6.725 5.85 6.32 7.565 6.395 5.61 6.31 张一双 7.115 6.155 6.325 5.87 5.175 6.115 赵玉玮 邹竞夫 AI LEE 卿云子 沈以昕 张一双 冠军 5 2 2 2 0 0 亚军 0 6 3 2 0 0 季军 1 2 2 2 2 0 携程小诗机 句 / 联生成 诗句组合寻优 景点 / 关键词解析 图片解析 反向过滤引擎 遗传算法， RNN ，广度优先图搜索 CNN ， GeoHash 黄图识别 PMI,plsa ， word2vec … N-gram ， RNN LM ，语义模型 用户输入关键词 特征语义解析 知识推理 用户输入图片 图片特征识别 情感引擎 主题引擎 天气引擎 季节引擎 GPS 解析 CNN 结束 携程小诗机 古诗自动生成 基于 LSTM 模型和 seq2seq 相结合，进行诗歌的创作 … 春日 落花飘红忆旧游 , 飞絮皱绿赋新诗 . 江风吹雨又黄昏 , 望月连云消白日 . 落 花 … 旧 游 絮 诗 飞