PPT+视频回放 | 《智能客服商家版后端架构设计》58同城AI Lab后端资深工程师，何帅

智能客服商家版后端架构设计58同城智能客服系统"帮帮"诞生于2017年，被广泛应用于58各前台业务线的客服人员和用户沟通场景，折合节省客服人力约500人，大大提高了客服人效。2019年，我们将智能客服应用于58同城C端用户和B端商家沟通场景，打造了智能客服商家版平台——"帮帮商家版"，助力B端商家提高获客效率和增加收益。本次议题将首先介绍"帮帮商家版"微服务架构，然后介绍数据存储、对话管理、可插拔式QABot、TaskBot的设计，最后介绍帮帮商家版在黄页微聊代运营场景中的应用实践和效果数据。
分享嘉宾：何帅，58同城AI Lab后端资深工程师。2017年10月加入58，目前主要负责智能客服商家版后端开发工作，曾先后从事过推荐系统、智能客服后端研发，2012年硕士毕业于中国石油大学（北京），曾就职于朗讯科技。

大会海报

录像回顾

PPT下载链接

http://knothacker.aicug.cn/all-slides

PPT一览

QA答疑

Q: 树形结构，这个存储在哪儿的呀。mysql不好扩展吧？

A: 树形结构是存储在内存或者缓存中的，mysql可以作为其落地存储。这里重点是提供一个思路，例如也可以使用Map存储，假设有三个维度l1,l2,l3，每个维度的默认值为''，定义Map中key的格式为l1_l2_l3，则全局配置的key为'___'，l1级别的配置为'l1__'，l2级别的配置为'l1_l2_'，l3级别的配置为'l1_l2_l3'，Map的value存储配置详情。具体使用时，按优先级依次查找相应key对应的配置即可。

Q: 里面的FAQ全是配置化的话 如果知识库没有的话 如何进行解决呢？

A: 首先，知识库并非全部交由业务方或商家维护。智能客服商家版内部会定期对线上问答数据进行标注与审核入库，知识库中大部分知识都是来源于此。接入的业务方一般没有相应的标注资源与AI能能力，所以知识库主要由商家版内部提供，业务方可以通过WEB平台对已有的知识库进行梳理与完善。

另外，对于冷启动的这种场景，可以将人工与人工的对话记录，或者类似论坛里面的用户问题的问题作为基础数据进行标注后，入到知识库，用作初期启动。如果实在没有数据，可以人工造一些出来。

Q: 可以自己导入和更新知识库吗？

A: 可以。知识库分3方维护，1）智能客服商家版内部会定时对线上数据进行标注&审核入库，这个是知识库的主要来源。2）业务方对已有知识库可以通过开发者平台进行业务线级别的知识库扩充。3）商家可以维护店铺级别的自定义的知识库。商家不能操作业务线级别的知识库，但是可以对业务级别的知识定义店铺级别的答案。

Q: 策略之间，出参入参怎么弄的呀？

A: 每个策略盒的输入输出是相同的。QABot主体服务会在一开始将输入参数构造好，然后按策略链依次作为入参调用各个策略盒，策略盒的输出也是按同一个协议输出。具体的输出输出协议需要按自己的业务进行设计。

Q: 多轮对话的方式同业都是用流程节点控制的嘛？

A: 应该基本是这样实现的。据个人了解，Google与阿里，都是采用类似方式。

Q：节点有向图是使用json或xml存储的吗？

A：使用的json格式存储在mongodb中

Q: 58在线客服技术团队有多少人支撑这些业务？

A: 由多个部门合作，如前端、后端、算法、测试等，现在技术团队规模20人左右。

Q: 如果用户一直答非所问，智能客服如何处理？

A: 对于这种不按套路出牌的用户，TaskBot中的SlotNode可以为每个ResponseNode设置尝试次数，用户不按套路出牌时，仍进行询问，达到尝试次数最大值后，根据该槽位是否为必须槽位进行处理。SlotNode可以为每个ResponseNode对应的槽位设置是否为必须，若为必须，达到最大尝试次数后，任务执行失败；若为为必须，则舍弃该ResponseNode的处理，继续处理下一个ReponseNode。

另外，现在智能客服的处理方式一般为机器人客服与人工客服相结合的方式。如果机器人处理不了，可以进行转人工客服处理，由人工客服进行接待。

Q: 全局知识库的规模有多大？

A: 知识库总规模百万级别，全局的意思是指所有业务线通用的吗？这样的知识比较少。智能客服商家版是业务垂直的机器人，知识库与接入的业务方有关，一般不去维护全局的知识库，基本都是维护业务方级别的知识库。

Q：如果不进行知识录入的情况下 它可以自学习优化知识库嘛？

A：现在商家版都是通过标注+人工审核的方式去维护知识库，自学习优化知识库比较难保证准确。

Q：TaskBot已经实现即使是业务人员也可以完成配置吗？TaskBot的整个任务流程如何验证效果？

A：现在内部有WEB配置可以使用，还没有开放给业务方。我们有专门的调试系统可以对TaskBot流程进行验证。

Q：全局知识库能不能修改，是否会自动更新，背后有没有采用知识图谱？

A：全局知识库能进行修改，会定期更新，现在知识库没有使用到知识图谱。

Q：流程节点和服务是什么关系啊？

A：流程节点存储的是状态以及参数，对话管理服务控制流程节点的运行以及跳转。

Q：常用的图数据库工具（比如neo4j、TigerGraph）能否用于智能对话系统中？

A：智能客服商家版中，没有使用图数据工具。据个人了解，有些公司做智能对话系统时，使用了图数据库。

AI Lab 招聘信息

欢迎关注开源项目 qa_matchqa_match是58同城开源的一款基于深度学习的问答匹配工具，支持一层和两层结构知识库问答。qa_match通过意图匹配模型支持一层结构知识库问答，通过融合领域分类模型和意图匹配模型的结果支持两层结构知识库问答。qa_match同时支持无监督预训练功能，通过轻量级预训练语言模型（SPTM，Simple Pre-trained Model）可以提升基于知识库问答等下游任务的效果。github地址：https://github.com/wuba/qa_match
文章介绍：

欢迎关注开源项目 dl_inferencedl_inference是58同城推出的通用深度学习推理服务，可在生产环境中快速上线由TensorFlow、PyTorch、Caffe框架训练出的深度学习模型。dl_inference提供GPU和CPU两种部署方式，实现了模型多节点部署时的负载均衡策略，支持线上海量推理请求，该服务支撑了58同城各AI场景下日均超过10亿次的线上推理请求。github地址：https://github.com/wuba/dl_inference文章介绍：

部门介绍58同城TEG技术工程平台群AI Lab，旨在推动AI技术在58的落地，打造AI中台能力，以提高各前台业务人效、收入和用户体验。AI Lab目前负责的主要产品包括：智能客服、语音机器人、"灵犀"智能语音分析平台、智能写稿、AI算法平台、语音识别、CRM商机智能分配系统等，未来将持续加速创新，拓展AI应用。

欢迎关注部门微信公众号：58AILab

欢迎加入58 AI Lab技术交流社区

欢迎在欣秀（https://app.ic3i.com）平台上加入"58同城AILab技术沙龙"圈子，一起交流技术，可以扫描以下二维码加入该圈子。