AAAI 2021 | 关键词指导的神经对话模型
©PaperWeekly 原创 · 作者｜金金
单位｜阿里巴巴研究实习生
研究方向｜推荐系统
论文标题：
Keyword-Guided Neural Conversational Model
论文来源：
AAAI 2021
论文链接：
https://arxiv.org/abs/2012.08383
简介
本文由南洋理工大学和阿里巴巴的联合实验室发表于 AAAI 2021。本文研究了在开放域对话代理上施加对话目标/关键词的问题，在这种情况下，需要代理将对话平稳快速地引导到目标关键词。解决此问题可以使对话代理程序在许多实际场景中应用，例如推荐和心理治疗。
解决此问题的主要范式是（1）训练下一轮关键词分类器，以及（2）训练关键词增强的响应检索模型。
但是，该范式中的现有方法有两个局限性：（1）下一轮关键词分类的训练和评估数据集是直接从没有人注解的对话中提取的，因此它们嘈杂且与人的判断的相关性较低，以及（2）关键词过渡时，主体仅依靠词嵌入之间的相似性来更接近目标关键词，而这可能无法反映人类的交谈方式。
模型
针对下一轮关键词分类任务，本文模型主要包含如下模块：
Utterance Representation：该部分使用分级的 GRU 网络获得每一个 Utterance 的表示； CKG Graph Representation：该部分使用 Gated 图神经网络获取结点的表示；
Keyword and Concept Representation：作者获取了出现在 utterance 中的关键词和 concepts，并使用两级的池化策略从知识图谱中获得表示；
Classification：最后使用一个线性层和一个 softmax 层得到最终输出分布，并使用最小化 negative log- likelihoods 来优化模型。
针对响应检索任务，作者首先制定了基于常识的关键词选择策略，具体来说，是基于 Floyd-Warshall 算法，选择概率最高且相比于已经出现的关键词中，与目标关键词最近的三个关键词。在此基础上设计如下模块：
Utterance Representations：同样适用上述的 GRU 和图神经网络获取每一轮的表示； Keyword Representations：直接使用知识图谱中的词表示； Matching：分别对上述两者计算点积并计算加权和。
结论
本文研究了在开放域对话代理上施加对话目标/关键词的问题。现有方法中的关键字转换模块遭受嘈杂的数据集和不可靠的转换策略的困扰。在本文中，作者提出了基于常识的关键词转换，并分别针对下一轮关键词转换和关键词增强响应检索的任务提出了两种基于 GNN 的模型。
更多阅读
#投 稿 通 道#
让你的论文被更多人看到
如何才能让更多的优质内容以更短路径到达读者群体，缩短读者寻找优质内容的成本呢？答案就是：你不认识的人。
总有一些你不认识的人，知道你想知道的东西。PaperWeekly 或许可以成为一座桥梁，促使不同背景、不同方向的学者和学术灵感相互碰撞，迸发出更多的可能性。
PaperWeekly 鼓励高校实验室或个人，在我们的平台上分享各类优质内容，可以是最新论文解读，也可以是学习心得或技术干货。我们的目的只有一个，让知识真正流动起来。
📝 来稿标准：
• 稿件确系个人原创作品，来稿需注明作者个人信息（姓名+学校/工作单位+学历/职位+研究方向）
• 如果文章并非首发，请在投稿时提醒并附上所有已发布链接
• PaperWeekly 默认每篇文章都是首发，均会添加“原创”标志
📬 投稿邮箱：
• 投稿邮箱：hr@paperweekly.site
• 所有文章配图，请单独在附件中发送
• 请留下即时联系方式（微信或手机），以便我们在编辑发布时和作者沟通
🔍
现在，在「知乎」也能找到我们了
进入知乎首页搜索「PaperWeekly」
点击「关注」订阅我们的专栏吧
关于PaperWeekly
PaperWeekly 是一个推荐、解读、讨论、报道人工智能前沿论文成果的学术平台。如果你研究或从事 AI 领域，欢迎在公众号后台点击「交流群」，小助手将把你带入 PaperWeekly 的交流群里。