科大讯飞在世界级机器阅读理解测试中名列第一
来源:观察者网综合
2017-07-31 19:33
近日,由斯坦福大学发起的SQuAD(Stanford Question Answering Dataset)挑战赛当中,科大讯飞与哈工大联合实验室(HFL)提交的系统模型夺得第一名,这也是中国本土研究机构首次取得该赛事的榜首。
SQuAD挑战赛是机器阅读理解标准水平测试领域的顶级赛事,参赛者来自全球学术界和产业界的研究团队,赛事对自然语言理解的进步有重要的推动作用。
科大讯飞与哈工大联合实验室提交的模型名为“InteractiveAoA Reader”,在SQuAD官网的成绩榜单上名列第一。
SQuAD官网的成绩榜单上科大讯飞与哈工大联合实验室提交的模型位列第一
InteractiveAoA Reader是讯飞经过不断摸索之后提出的“基于交互式层叠注意力模型”(Interactive Attention-over-Attention Model)。正是这个与众不同的模型,让科大讯飞在全球自然语言理解研究领域脱颖而出跃居头名。
目前在机器阅读理解领域中,多采用完全端到端的神经网络建模,科大讯飞同样也采用了端到端的神经网络模型,但把精力更多放在如何能够模拟人类在做阅读理解问题时的一些方法。讯飞提出的基于交互式层叠注意力模型,主要思想是根据给定的问题对篇章进行多次的过滤,同时根据已经被过滤的文章进一步筛选出问题中的关键提问点。这样“交互式”地逐步精确答案的范围,与其他参赛者的做法不太相同,最终收获了令人瞩目的成绩。