融合问答历史信息的机器阅读理解技术研究

来源 :哈尔滨工业大学 | 被引量 : 0次 | 上传用户:fdhwangwei
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
人类以对话的方式询问信息,当前询问的问题通常与之前的问答存在关联。然而当前的机器阅读理解任务更多是单轮问答,不同轮的问题和答案没有相关性,可以独立的求解。为了使得机器具备像人一样询问信息的能力,研究者提出对话式阅读理解任务,给定一篇文章和多轮问题,当前轮问题的回答不仅依赖于文章内容,还需要结合当前轮次的问答历史信息。本文探究融合问答历史信息的机器阅读理解技术,即在结合文章回答当前轮问题的过程中融入问答历史信息,主要进行了以下三项研究工作:(1)基于预训练模型的问答历史信息融入方法。研究者提出拼接法融入问答历史信息,即将问答历史拼接到当前轮问题之前,再将拼接后的文本和文章输入到单轮机器阅读理解模型中给出答案。然而Bi DAF++等单轮阅读理解模型不能够充分的对问答历史和当前轮问题进行交互,我们基于预训练模型构建对话式阅读理解模型,利用预训练模型的深层网络对问答历史和当前轮问题进行深入的交互,实验结果验证了该方法的有效性。(2)基于对话信息选择的问答历史信息融入方法。已有的工作表明通过拼接法融入问答历史信息,模型容易受到无关问答历史信息的干扰。针对这个问题,我们提出两种基于对话信息选择的问答历史信息融入方法。第一种方法将问答历史中每轮问答和当前轮问题转化为句子表示汇聚重要信息,再通过门控循环神经网络的门控机制选择问答历史信息。第二种方法分别对问答历史中的每轮问答和当前轮问题进行交互初步选择信息,然后将交互后的信息融合到当前轮问题中再次选择问答历史信息,实验结果表明了该方法的有效性。(3)基于潜在语义推理的问答历史信息融入方法。潜在语义推理机制结合回答之前轮问题的过程中产生的中间表示来回答当前轮问题,能够利用问答历史中的潜在语义信息。然而,已有的方法在传递潜在的问答历史信息时没有直接考虑问题,不能够针对性的传递对回答问题有帮助的信息。为了解决这个问题,提出基于问题引导的多粒度对话式阅读理解模型,利用问题信息引导潜在语义信息的传递过程,并且引入句子粒度的信息传递过程进一步丰富传递的信息,实验结果证明了该方法的有效性。
其他文献
绳驱机械臂是一种采用绳索传动将电机等驱动单元全部可布置在基座的新型结构的机械臂。相比于传统的机械臂而言,绳驱机械臂的质量和惯量更小、负载能力更强、更容易实现轻量化和小型化,并且由于使用绳索传动使得绳驱机械臂具有一定的柔性。基于上述特点,采用绳驱结构特别适合应用于人性机器人以及与人进行交互的场景。绳驱结构将为机器人领域提供一种新的解决方案,对绳驱机械臂的研究将在这些方向发挥重要作用。本文首先首先对绳
当车辆行驶在长波路面或离散冲击路面时,路面高度的变化通过车轮传递到车身,会带来明显的颠簸感,影响车辆乘坐的舒适性,同时,当路面的变化较剧烈时,车轮有可能与地面脱离接触,会影响车辆的操纵稳定性。半主动悬架被广泛应用于车辆控制当中,用于改善车辆性能。本文以半主动悬架为研究对象,首先对路面高度进行估计,进而在路面已知的情况下,对半主动悬架进行控制,从而提升悬架控制效果。首先,本文建立了一种新的考虑车身俯
主动脉血管疾病是人类心血管疾病中最具威胁的健康杀手。通过主动脉形态结构监测其健康状况能够及时诊断出主动脉夹层和主动脉瘤等疾病,已成为临床中重要的计算机辅助诊断方式。医学图像人工标注将耗费大量时间,且因受标注者主观影响而有所差异。本文提出了一种基于深度学习的全自动精细化主动脉分割算法,有效解决了医学图像分割尤其是管状结构分割任务的难点问题,具有较强的鲁棒性和泛化性。本文第一部分针对融合上下文语义信息
提高低压涡轮单个叶片载荷可以减少低压涡轮叶片数目,有效降低低压涡轮部件质量,实现提高发动机推重比的目的。然而由于负荷的增加,叶片吸力侧附面层会承受更大的逆压梯度,在高空低雷诺数工作环境下更易发生层流分离,造成损失剧烈增加,严重影响发动机的工作效率和飞行器的续航时长。因而通过研究开发有效的流动控制手段,抑制由负荷提升造成的低雷诺数下层流分离带来的不利影响,是近些年高负荷低压涡轮相关研究中的一大热点。
机器视觉导航在机器人、智能驾驶等领域应用越来越广泛,导航数据集对于导航算法的训练和测试发挥着重要的作用,但目前导航数据集大多基于固定轨迹生成,存在不能生成任意轨迹下的数据、通用性差等问题。本文基于RGB-D相机(彩色-深度相机),提出一种基于三维重建模型的导航仿真数据集生成方法,实现了在重建三维模型中根据设定的轨迹、视觉传感器类型,生成包含图像序列和轨迹序列等信息的数据集。具体工作如下:(1)综合
高压输电线路遍布全国大大小小各个地方,是进行现代生产生活的基本保障,而每年对高压导线的维护检修都需要耗费巨大的人力与物力,低效率、低可靠性的传统高压输电线路巡检手段已经不再适合现代社会的发展需求,因此本文研发了一款应用于220KV或500KV的架空高压导线检修机器人运动控制系统,结合传统机器人控制方法与架空巡检机器人的特性,按照线上运动的不同阶段对机器人展开运动控制系统设计,充分利用现代传感器的感
架空线路是电力系统的重要组成部分,架空线路和线路上各类金具长期暴露在室外环境下容易发生损坏,因此需要进行架空线路巡检工作。利用架空线路机器人代替人工进行巡检可降低人员劳动强度,保护人员人身安全。当前架空线路机器人存在智能化程度不高且较少考虑机器人随导线发生摇摆的状况等问题,对此,论文重点研究了架空线路机器人检测臂路径规划技术、针对机器人平台小角度摇摆的位置补偿技术和针对机器人平台大角度摇摆的摇摆预
当前,分布式流处理系统中的处理逻辑变得更加复杂,数据流图规模变大,图拓扑结构较为复杂。现有的流处理资源管理器中的启发式调度规则不够灵活,调度效果较差,影响了流处理系统性能,现有的节点调度算法难以在大规模流处理任务上取得较好的调度效果。本课题中,针对如何对流处理应用中的大规模数据流图节点进行资源调度,提高分布式流处理系统处理效率的问题,采用了深度强化学习与多级图划分技术,从两个方面进行了研究,设计并
利用多智能体协同决策算法可以在多智能体系统中协调多个智能体的资源和活动来实现共同的目标,其在智能交通系统、智能电网系统、无线传感器网络和无人机群协同控制等领域有广阔的应用前景。其中,以马尔科夫决策过程为基本模型的多智能体深度强化学习类方法在解决机器人协同控制问题时取得了较好的表现。该类方法的特点是具备基于观测数据更新的在线学习能力,在端侧应用时对环境具有较好适应性。但是,由于端侧嵌入式处理器的计算
智能钻探技术具有智能化、自动化的优点,在现今和将来都是钻探领域的研究热点。为结合大数据和深度学习,智能钻探技术需要大量的数据为其提供支撑,因此服务于智能钻探技术的数据采集单元具有重要的研究意义。但是现今智能钻探系统的研究还不够成熟,井下的测量仪器大部分是分立化且功能单一的,不利于智能钻探系统进行数据收集。此外,井下恶劣的工作环境、钻探工作产生对测量造成的干扰、体积、功耗等限制给井下数据采集带来了现