图文并茂带你了解依存句法分析

作者: 龚俊民(昵称: 除夕)

学校: 新南威尔士大学

单位：Vivo AI LAB 算法实习生

方向: 自然语言处理和可解释学习

知乎: https://www.zhihu.com/people/gong-jun-min-74

前言： 上一期我们讲了成分句法分析，它相当于考虑广义上的嵌套关系的命名实体识别。这一次我们来说一说依存句法分析，它相当于文本结构化任务中，与命名实体识别经常在一起的实体关系抽取任务。

成分句法分析关心的是，某两个相邻词汇能不能接在一起构成成分（广义的mention）。而依存句法分析关系的是，两个词汇之间的关系（entity relation）。依存解析不关心两个词汇是否一定要相邻。比如 book 和 flight 没有直接相连，但是 flight 是 book 的宾语，book 是 flight 的主语。我们会用一个从 book 指向 flight 的箭头来表示这种依存关系。箭头的起始我们叫作 head。

词汇和词汇之间的关系一览。

更具体地说，依存解析做的是把一个句子，变成一个有向图。图中每一个节点是一个词汇，每一条边，是一种关系。除了根节点，每一个节点词汇都只有一个入度的边。但每个词汇都可以指向多个其它词汇。它是一个树状的结构。每一个词汇都有唯一的一条路径回溯到根节点。

我们要怎样得到这样一棵依存解析树呢？实际上丢给分类器两个词汇和其上下文，它会先通过一个二分类器，用来输出左边到右边的token之间有无依存关系，若有依存关系，则第二个分类器会输出其关系的类别。

模型的输入是ROOT 加上 N 个词汇组成的句子。然后取出 (N+1)² 的单词对，一个个丢给分类器做关系分类。

文献上的具体做法是这样的。它会先把序列丢给一个 BiLSTM，把每个 token 的嵌入抽出来，再两两丢给一个FC层做分类，判断这两个 token，要不要连在一起，如果要连在一起，它们的关系是什么？论文会把抽出token的嵌入乘上一个FC做线性映射，再把两个 token 做类似注意力的操作，会得到一个数值，这个数值表示这两个 token 有多大概率要连在一起。其关系的标签也是类似的做法。