论文笔记 EMNLP 2020

论文题目：Connecting the Dots: Event Graph Schema Induction with Path Language Modeling 论文来源：EMNLP 2020 论文链接：https://aclanthology.org/2020.emnlp-main.50.pdf 代码链接：http://blender.cs.illinois.edu/software/pathlm

给一个文档，抽取其中的实体、关系、事件实例，构造事件实例图(节点表示实体或者事件，边表示事件-论元角色或者实体-实体关系)。事件图模式归纳(Event Graph Schema Induction)的目标是从事件实例图中生成循环的图模式，对于每个事件类型对生成一个事件图模式(节点和边分别为事件实例图对应的类型)，如下图。

主要包括下面几个部分：

使用信息抽取系统或者人工标注，抽取实体、实体-实体关系、事件和论元，实例路径和事件-事件路径(节点和边的类型)的公式如下：

自回归路径语言模型使用transformer对路径序列进行打分(如下图)，为了区分节点和边，设置Element编码[1,2,1,…,1,2]，Loss函数如下：

为了捕捉路径之间的一致性，使用一个二分类器学习两条路径的发生概率，相同事件实例v和v’的共现路径为邻居路径；相同事件类型的路径为负邻居路径，使用CLS标签进行分类，公式如下：

给两个事件类型，通过合并topk个路径得到图模式，打分函数包括语言模型和邻居分类两部分，公式如下(第二行第二个公式为节点和边的打分函数)：

实验数据集为ACE2005，数据统计如下( H i s t o r i c a l a n n Historical_ann Historicala​nn表示人工标注的事件实例图， H i s t o r i c a l s y s Historical_sys Historicals​ys表示系统抽取的事件实例图)：

提出两个评测指标，Instance Coverage和Instance Coherence：

将归纳的模式加入到信息抽取系统(ONEIE)中，过程如下，公式如下( s ′ ( G ) s'(G) s′(G)为每个实体、关系、事件的类型预测分数):

实验结果如下： 加入归纳的事件模式后，信息抽取的实验结果如下：