【摘 要】
:
近些年,“人工智能”也变成大众耳熟能详的名词,机器翻译、文本摘要等序列任务也得到广泛的应用。如今,在工业界以及学术界解决序列到序列问题的主流方法是采用序列到序列的
论文部分内容阅读
近些年,“人工智能”也变成大众耳熟能详的名词,机器翻译、文本摘要等序列任务也得到广泛的应用。如今,在工业界以及学术界解决序列到序列问题的主流方法是采用序列到序列的模型结构,其主要框架是由编码器-解码器构成。本文将整个模型框架分成模型参数、模型结构、文本数据三个部分,并从这三个角度出发优化各个序列任务,同时将其运用到机器翻译以及抽象文本摘要两个典型的序列任务。1、从模型参数的角度优化卷积神经网络容易陷入到的局部最优点问题,提出了逐层去训练和重训练的实验方法,迭代优化整个神经网络,使其更加趋向于全局最优。实验结果表明,本实验方法能够更有效地训练整个网络结构趋于全局最优,同时翻译性能也能有所提升。2、从模型结构的角度优化抽象文本摘要,改进编码器-解码器的模型结构,在常规注意力的基础上,融入新的对手注意力机制,以此来增强传统注意力的贡献,同时使用联合训练削弱对手注意力的影响力。实验结果表明在融入了对手注意力机制之后,模型的对齐效果更加明显,摘要文本的准确率和召回率都有了显著的提升,在多场景训练集上均取得了不错的实验结果。3、从文本数据的角度优化文本摘要中的冗余序列,通过同时解码生成摘要序列和冗余序列两类文本,以达到将两者从源句中区分开的效果。实验结果表明,增加冗余序列之后,模型能够有效区分源文本中的相关信息和冗余信息,并将其负面影响降至最低,且能生成更高质量的抽象文本摘要。本文的实验结果表明,所提出的三种方法均能有效优化各个序列任务,同时提升模型性能,并获得更高质量的翻译文本或者摘要文本。
其他文献
在计算机技术迅猛发展的今天,人们已经可以很好地应用计算机领域的诸多知识来解决许多日常问题,并且可以通过建模的形式,将问题抽象概括,从而得心应手的解决一类甚至多类问题
经验回放技术能够让智能体使用过去的经验样本进行策略优化。当只有一个智能体与环境交互时,经验回放技术能够提升智能体的学习效率。然而在多智能体系统中,如果智能体使用以
一直以来传统的治疗方法存在着各种各样的弊端,给患者带来痛苦的同时疾病并不能得到根治。随着医学水平的发展,人们开始思考从基因水平上对疾病实施有效且根本性的治疗,基因治疗由此逐渐引起了人们的关注。因此本文开发一种基于还原敏感响应的纳米基因递送系统,利用细胞内高GSH浓度呈现出的还原性环境,实现载体在细胞内更快速的释放基因,从而达到高的转染效率。本论文主要的研究内容及结果如下:1.还原敏感响应基因递送载
人参(Panax ginseng C.A.Meyer)属于五加科(Araliaceae)人参属(Panax L.)多年生草本植物,其主要有效成分是人参皂苷。人参皂苷在不同组织器官中,含量和组成有很大差异。目前,
全球能源与环境问题的出现,很多国家加快了对可再生能源的研究。随着分布式发电系统发展的多样化,含分布式电源的电力系统出现了各种各样的挑战,孤岛检测是亟待解决的问题之一。传统孤岛检测方法多基于恒功率控制和电流控制并网逆变器研究,随着下垂控制等其他控制策略并网逆变器的不断发展以及多机并网逆变器的广泛应用,传统孤岛检测方法的有效性得到挑战,必须寻找一种通用性更强的检测方法来适应分布式发电系统的发展。为了研
DNA链可以传输正电荷(空穴)的性能,促进了医学领域内的分子电子器件研究。然而鸟嘌呤自由基阳离子(G·+)的快速去质子化会导致空穴传输终止,其脱质子的速率直接影响着空穴传递的
目的:由祖国医学和现代医学两方面,研究和探讨椎间盘源性腰痛的发病机制及临床治疗,评价口服腰突颗粒汤剂对治疗肝肾亏虚型椎间盘源性腰痛的临床疗效。方法:选取2018年1月至2018年12月,在深圳市中医院住院部骨三科住院的,中医诊断为肝肾亏虚型腰痛,西医诊断为椎间盘源性腰痛,选择保守治疗,且符合纳入标准的66名患者,按照入组时间编号,利用随机数字表法将病人分为腰突颗粒组和对照组,腰突颗粒组口服腰突颗粒
近年来,以人脸识别、语音识别和图像处理等为代表的人工智能技术为智能化的教育发展带来了新的变革,当前这些技术被广泛应用教育领域。对于学生来说,课堂是最重要的学习场所
随着国民经济的日益发展,安全性的发展变成了一个越来越重要的话题,以危化品仓储为代表的高危环境的安全对社会经济人民安全的影响越来越大。能够对这种危化环境实现全方位实
人工选择进程极大提高了全球范围内小麦的产量。小麦选育和种植的最终目的就是优化群体产量,而通过单株株型进行高产品种的筛选(即系谱法)已成为小麦选育的主要手段,这需要育