在NLP中深度学习模型何时需要树形结构?
demi 在 周一, 01/28/2019 - 14:35 提交
前段时间阅读了Jiwei Li等人[1]在EMNLP2015上发表的论文《When Are Tree Structures Necessary for Deep Learning of Representations?》,该文主要对比了基于树形结构的递归神经网络(Recursive neural network)和基于序列结构的循环神经网络(Recurrent neural network),在4类NLP任务上进行实验,来讨论深度学习模型何时需要树形结构。下面我将通过分享这篇论文以及查看的一些相关资料来讨论一下我们何时需要树形结构知识。
1 句法分析树
根据不同的标注树库,句法分析树主要有两种形式:
1) 短语结构树(Constituent Tree)
2) 依存结构树(Dependency Tree)。
下面举个简单的例子,"My dog likes eating sausage." 使用Stanford parsing tool进行句法分析可以得到如下结果: