论文：Scalable Multi-Hop Relational Reasoning for Knowledge-Aware Question Answering

EMNLP2020的一篇论文，涉及Multi-Hop Reasoning，有代码

pdf:https://arxiv.org/abs/2005.00646

github:https://github.com/INK-USC/MHGRN

0. Abstract

目前基于知识图谱的问答系统模型，要么缺乏多跳推理能力，要么推理方法缺乏可解释性（痛点！）

本文提出了一种方法，把预训练语言模型pre-trained language models, PTLMS和一个名为多跳图关系网络 multi-hop graph relation network, MHGRN的多跳关系推理模块相结合，实现知识图谱子图的多跳、多关系推理

该模块将基于路径的模型与基于图神经网络的模型相结合，实现了较好的可解释性和可用性，同时，具有很好的可扩展性

1. Introduction

目前预训练语言模型PTLMS尽管具有很好的性能，但没办法提供可解释预测，因为训练时语料库的知识就没有标明，是一种黑盒

因此，训练时就标明知识的方法，以基于知识图谱的问答系统为代表，提高了可解释性

image-20201119202305974

基于知识图谱的方法，一个方法是基于路径建模的方法，但这种方法的难点在于剪枝，很多现有模型是限制分支数量和跳数实现模型，降低了准确率

另一个可行的方法是基于图神经网络的方法，这种方法可扩展性很强，但缺乏可解释性和透明度（属于一种图嵌入）

本文提出的多跳图关系网络MHGRN结合了两种方法，还通过结合结构化的关系注意力机制，令基于路径建模的方法具有可解释性。

image-20201119203509899