【摘 要】
:
机器阅读理解是自然语言处理领域重要的研究方向,根据提供的文本数量,可以分为单文本阅读理解模型和多本文阅读理解模型,鉴于后者具有更高的挑战性和实际应用价值,本文专注于多文本阅读理解模型在中文阅读理解数据集的研究,模型的架构包括段落选择器和文本阅读器。对于给定的问题、文档和参考答案,首先,通过段落选择器从文档中选出与参考答案相关性较高的段落,然后,文本阅读器在选择的段落上完成阅读工作,并预测出答案的范
论文部分内容阅读
机器阅读理解是自然语言处理领域重要的研究方向,根据提供的文本数量,可以分为单文本阅读理解模型和多本文阅读理解模型,鉴于后者具有更高的挑战性和实际应用价值,本文专注于多文本阅读理解模型在中文阅读理解数据集的研究,模型的架构包括段落选择器和文本阅读器。对于给定的问题、文档和参考答案,首先,通过段落选择器从文档中选出与参考答案相关性较高的段落,然后,文本阅读器在选择的段落上完成阅读工作,并预测出答案的范围。针对段落选择器和文本阅读器的任务,本文的主要研究工作包括:1、提出两种基于卷积神经网络的段落选择器,分别是二分类版本和多分类版本。两种选择器均将段落选择转化为分类的任务,首先,预训练问题和段落中单词的词向量,然后,使用双向长短时记忆网路分别对问题、段落中的上下文信息进行编码,接着,使用注意力机制层匹配问题和段落的语义信息,强调与问题相关性高的段落内容。下一步,使用卷积神经网络提取段落中重要的特征,生成段落的特征向量。最后,二分类版选择器使用段落特征向量预测段落包含答案的概率,选择概率较高的段落;多分类版选择器进一步计算段落与问题的语义相似度,选择相似度较高的段落。2、对于文本阅读器任务,实现了基于注意力机制的基础神经网络文本阅读器和融入匹配特征的R-net模型,并验证了这些模型在中文数据集的有效性。在Dureader中文阅读理解数据集的百度知道和百度搜索子数据集完成实验,相比于基线方法,模型取得的效果在Bleu-4和Rouge-L评估分数均有明显提升。
其他文献
新课改的大力推广,冲击着现行的教育模式。教师不再是课堂的主体,一切都要以学生为核心。注重学生的知识生成的过程,在这种环境下,培养学生的自主学习能力就显得尤为重要。本
目前,我国在飞速发展的同时,也严格维护市场经济秩序,加强防范各类经济风险,非常重视审计工作,积极开展各类审计活动。审计一直是国内外社会的重要工作内容之一,作为国家的一种独立性经济监督活动,对被审计单位起着制约和促进的作用。然而,随着计算机和网络技术的普及,数据量飞速增长,各单位信息系统中存储着海量数据,如何从这些有噪声的数据中“智能自动”地挖掘出潜在的有用的审计信息,并辅助相关研究人员进行审计工作
文化意象是文学翻译中译者必须面对且有一定难度的翻译问题,也是现代译论不同于传统译论的新论点之一。传统翻译理论中文学作品中出现的具有丰富文化内涵的文化意象,所采取的翻译方法更多偏向“雅”而不顾“信”,也就是说译者所考虑的是读者的感受,由此选择的就是归化和意译偏多,甚至于在很大程度上一个译本的优劣在于归化和意译的多少来决定。这就使得具有丰富源语文化内涵的、在作品中突显民族特点的文化意象就在归化过程中化
随着空间网络体系与传输数据的日益复杂,人们对于空间通信以及数据传输与处理的要求也不断提高,网络体系的性能直接影响到数据传输的正确性和可靠性,上述现象使得针对高效处理复杂数据的一系列空间网络协议的研究变得尤为重要。大量文献及研究结果显示,网络流量具有自相似性,这为深入研究自相似流量预测及空间网络的多路复用算法提供了新思路,可以将自相似流量预测模块引入多路复用模型中,进而完善多路复用优化系统模型。本文
化石燃料燃烧所带来的环境污染以及气候变化,已经成为制约社会发展的的巨大难题。自1750以来,大气中的CO2浓度以每年2 ppm的速度持续增长,目前已经超过400ppm,成为导致全球变
蜂窝结构件具有优良的力学性能,广泛应用在航空航天、轨道交通等诸多工业领域。传统的制造方法工序繁杂、制造周期冗长,对设备依赖性高,难以适应社会和经济发展的需要。采用
酸菜是以白菜等为原料,通过益生菌发酵而成的一类发酵蔬菜,口感和风味独特、营养丰富、具有一定保健功效。然而,酸菜会出现亚硝酸盐超标的问题,若过量摄入,可引发多种癌症。
随着全球化的进一步深入,以及“一带一路”倡议地推进,中国与非洲国家在经济、政治、文化等领域地交流愈加频繁。然而,由于语言、政治、文化、宗教等方面的差异,双方在沟通方面尚存在障碍,因此,口译在交流及沟通上的重要性愈发凸显。本篇论文作为一篇口译实践报告,基于笔者为亚吉铁路项目EDR学员提供铁路技术培训的口译服务。此次口译实践涉及铁路施工、铁路信号、电务技术等内容。为此,译者做了充分的译前准备,包括收集
目的:通过测定SULF1在HCC组织中及癌旁组织中的转录水平并进行对比,探讨SULF1的转录水平与HCC切除术后3年生存率的关系,并结合患者相关临床指标和病理因素探讨影响HCC术后3年生存率的临床和病理因素。方法:收集2015年1月至2017年1月吉林大学白求恩第一医院肝胆胰外科符合入组标准的108例患者的临床和病理资料,术后随访3年。通过实时荧光定量PCR(real-time quantitat
牛津大学在800多年的发展历程中培养了大量的杰出人才。然而牛津大学的发展史并非一帆风顺。从建校到16世纪末,冲突与合作始终贯穿于学者和市民两个群体中。这种关系不仅影响了两个群体的发展,同时也对英国社会产生了深刻的影响。本文共分为三章,各章节内容大致如下:第一章:主要阐述12世纪中叶至13世纪末,牛津大学和牛津城的关系。这一时期二者的关系表现为合作与零星冲突并存,并且以合作为主。通过分析这一时期牛津