【摘 要】
：
针对循环神经网络语言模型对长距离历史信息学习能力不足的问题,本文提出了结合全局词向量特征的循环神经网络语言模型。首先利用Glo Ve(Global Word Vectors)算法训练出全局
【机 构】
：
解放军信息工程大学信息系统工程学院
论文部分内容阅读
针对循环神经网络语言模型对长距离历史信息学习能力不足的问题,本文提出了结合全局词向量特征的循环神经网络语言模型。首先利用Glo Ve(Global Word Vectors)算法训练出全局词向量,然后将其作为特征向量输入到引入特征层的循环神经网络中进行训练。相对于局部词向量方法,全局词向量能够利用全局统计信息来训练出含有更加丰富的语义和句法信息词向量。为了验证新方法的性能,本文在Penn Treebank和Wall Street Journal语料库上分别进行困惑度和连续语音识别实验。实验结果表明结合全局词向量的循环神经网络语言模型的困惑度相比传统的循环神经网络语言模型降低了20.2%,同时语音识别系统的词错误率降低了18.3%。
其他文献
复杂的水下地形及动力过程使得伶仃洋滩、槽具有不同的挟沙特征,深入研究伶仃洋水流挟沙力问题,对于推动伶仃洋泥沙数学模型的发展具有重要意义。选用同时覆盖伶仃洋滩、槽水
通常的水流挟沙力公式很难直接应用于黄河。本文从水流能量消耗和泥沙悬浮功之间的关系出发,考虑了泥沙存在对卡门常数和泥沙沉速等的影响,给出了半经验半理论的水流挟沙力公
近年来,以支付宝和财付通为代表的中国移动支付企业不断拓展海外市场,推进国际化,引人注目。在海外业务高歌猛进的同时,也面临诸如支付风险、合规监管、市场竞争与盈利等难题
<正>(接上期)发展模式:亚洲化or欧洲化2018年,航运业有一种现象引发关注,即以韩国为主的亚洲国家对航运业的大规模补贴扶持。在韩国补贴航运业方面,2018年4月5日,韩国海洋水
“期待可能性”理论基于其普遍的合理性 ,已成为大陆法系解决刑事责任问题的重要学说。该理论有独特的基本概念与发展过程。其判断标准应以行为当时的具体情况、行为人是否有
论功利主义价值观对中国传统道德的冲击张念书随着改革开放的深入发展，现在人们的价值观念发生了一系列重要变化。变化之一就是功利主义价值观的挑战。为了正确引导人们的价值
利用三维建模软件Pro/E对四柱支撑掩护式液压支架的各部分零件进行三维建模,按照其位置关系进行整体装配。将液压支架模型先导入3DSMAX中进行运动仿真,利用Virtools软件对模