无监督神经机器翻译技术研究

被引量 : 0次 | 上传用户:nimabe
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
近些年来,机器翻译技术在自然语言处理领域里取得了巨大的成功和进步。在使用深度学习技术以后,在一些语言上的性能已经接近人类水平,但是却过分依赖大量的平行语料库。采用无监督方法的神经机器翻译技术,仅仅使用单语语料库进行训练,解决了传统神经机器翻译过分依赖平行语料库的问题。无监督神经机器翻译结合了去噪自动编码器和反向翻译实现了机器翻译任务。虽然现阶段无监督神经机器翻译已经取得了良好的成绩,但是通过对具体模型结构及原理的分析,发现目前效果最好的无监督神经机器翻译模型仍存在一些需要解决的问题,本文将这些问题总结为以下两个方面。第一,反向翻译是在无监督神经机器翻译中广泛使用的一种方法,能够将常规的无监督学习任务转化为监督学习任务。但是在反向翻译过程中无法控制训练数据的质量。针对该问题本文提出了一种利用质量估计的方法,通过使用质量估计对反向翻译过程中生成的伪平行数据进行筛选后再训练,有效的提升了无监督神经机器翻译的效果。第二,随着Transformer模型在神经机器翻译中的广泛应用,神经机器翻译的性能得到了显著的提升,虽然Transformer可以从句子中学习到潜在的句法知识,但是却远远不足。因此,针对该问题本文在无监督神经机器翻译的基础上融入句法知识,通过将句法分析的结果线性化得到句法标签显性的将句法知识融入到无监督神经机器翻译中,经过实验验证了该方法的有效性。最后,结合本文提出的两种方法。设计并实现了无监督神经机器翻译系统,本系统使用了无监督的方法完成了机器翻译的任务,并且与基线方法相比,更进一步的提升了无监督神经机器翻译的质量。
其他文献
两性身高差异对了解同一人群内两性间体质、生存策略及食谱构成等方面的异同具有重要意义。目前,中国全新世人群两性身高差异的分布状况及其演变过程尚不明确。本研究收集51组古代人群股骨最大长数据,选取合适公式重建各人群的男、女平均身高并计算不同时代人群的两性身高差异指数,探析中国古代人群两性身高差异的演变特征。结果显示:两性股骨最大长差异在新石器至铁器阶段呈增大趋势;男、女平均身高在新石器至青铜阶段显著降
家校合作即家庭与学校以沟通为基础,相互配合、合力育人的一种教育形式。在中职学生心理健康教育中,家校合作可满足中职心理健康教育环境的创新需求,提升心理健康教育的效果,弥补心理健康教育资源的不足。但目前,家校合作视域下的中职学生心理健康教育还存在一些问题。因此,在家校合作视域下的中职学生心理健康教育中,教师要注重突出学校教育的作用,激发家长参与心理健康教育的积极性,尊重学生的个性化特点,以此提升中职心
为全面准确掌握目前我国科研人员开展科普工作的现实状况、需求与路径,以发现存在问题或困难,促进科普工作发展,通过2020年间为期3个月的调研访谈,以26名来自我国不同区域、供职于不同类型创新主体的科研人员为访谈对象,运用扎根理论的编码技术对调研收集的资料进行数据处理,从科研人员开展科普工作的基础与能力、平台与渠道、内容形式、内部驱动因素、外部激励、外部需求等方面总结科研人员科普工作路径。结果发现:科
学位
期刊
<正> 一、概述每生产一吨合成氨,放空气量一般是150~250标米~3/吨氨(对于采用劣质煤为原料时,可能达到200~300标米~3/吨氨)。放空气中含有8~12%(体积,以下同)的氨,则每生产一吨合成氨,随着放空气排出的氨量是15~20公斤,占合成氨产量的1.5~2.0%,有的甚至达3%。以往,许多合成氮厂回收放空气中的氨,一般是将高压的放空气减压至几公斤的低压或常压后,用软水吸收其中的氨,制得
期刊
<正>近年来台风、暴雨屡创纪录现象,气候变化已对防汛防台工作提出了新的挑战,以数据驱动多源信息融合,搭建“可视、可感、可知”的防汛防台数字化应用场景,将有助于水利局全面履行职责,切实提高监测预警和防灾减灾能力,有效提高防汛防台应急响应的效率和能力,从而减少台风、暴雨灾害导致的经济损失,保障公众生命财产安全,维护社会稳定,具有良好的经济效益和社会效益。防汛防台现状概述近年来,极端天气加剧,无锡市洪涝
期刊
目的 探讨经跗骨窦入路复位钢板固定、L形切口复位内固定治疗跟骨骨折的临床效果。方法 选取跟骨骨折患者96例的临床资料,进行回顾性研究。根据治疗方案不同分为跗骨窦组和L形组,每组48例。跗骨窦组采用经跗骨窦入路复位钢板固定治疗,L形组采用L形切口复位内固定治疗。比较2组手术情况、术后康复情况、手术优良率、并发症发生情况,比较2组手术前后血清创伤应激-炎症指标[超氧化物歧化酶(superoxide d
通过对水稻进行化肥(主要是氮)减量配施微生物菌肥,研究化肥减量配施微生物菌肥对水稻经济效益和土壤养分的影响。结果表明,推荐配方、推荐配方配施微生物菌肥、推荐配方减氮10%+微生物菌肥、推荐配方减氮20%+微生物菌肥4种处理对水稻产量的影响差异不显著;添加微生物菌肥经济效益有所降低,但均能提高土壤有机质含量,有效防止速效磷损失,中和土壤酸性,提高生态效益。