【摘 要】
：
在自然语言理解任务中,注意力机制由于可以有效捕获词在上下文语境中的重要程度并提高自然语言理解任务的有效性而受到了人们的普遍关注。基于注意力机制的非递归深度网络Tra
【机 构】
：
北京交通大学计算机与信息技术学院,北京交通大学交通数据分析与挖掘北京市重点实验室
【基金项目】
：
国家自然科学基金(61876016),中央高校基础科研业务费专项资金(2019JBZ110)
论文部分内容阅读
在自然语言理解任务中,注意力机制由于可以有效捕获词在上下文语境中的重要程度并提高自然语言理解任务的有效性而受到了人们的普遍关注。基于注意力机制的非递归深度网络Transformer,不仅以非常少的参数和训练时间取得了机器翻译学习任务的最优性能,还在自然语言推理(Gaussian-Transformer)、词表示学习(Bert)等任务中取得了令人瞩目的成绩。目前Gaussian-Transformer已成为自然语言推理任务性能最好的方法之一。然而,在Transformer中引入Gaussian先验分布对词的
其他文献
随着时代的发展,市场需求方的选择影响着产品或服务的营销成效。消费者多样化和个性化的需求,使得处于供给端的企业开始制定更为精准的营销方案。而大数据技术的出现,为企业
法律是思维的产物。在大陆法系被称为所有权保留买卖的交易形式在美国《统一商法典》中却称为购买价金担保交易,究其原因,在于所持理念的不同。商法典的起草者认为所有权的归
改革开放以来,我国经济一直保持高速增长,人民群众的生活水平也显著提高.然而,经济的高速增长带来了许多现实问题,贫富之间的差距并没有缩小,反而越拉越大,收入分配的不合理
近年来,随着科学技术的迅猛发展,我国的网络技术、信息技术等各种新技术也得到飞快的发展,这也直接促进了企业电子商务快速发展.电子商务作为现代社会的一种新型交易方式,它
基于北京语言大学HSK动态作文语料库的语料分析发现,留学生＂是……的＂句型的习得性偏误率高达41%,远远高于其他类别的汉语句型,不同语言水平、不同国籍习得者的偏误率也有所不
目前,在密集场景人群计数任务中,标注真实密度图的方法是对行人头部的中心位置进行标注,并利用高斯卷积生成真实的密度分布图作为监督信息。但是,对于密集场景而言,这样的标注方式是费时、费力的,并且密集场景图片中有诸多"非受控"因素,如低分辨率、背景噪声、目标遮挡和尺度变化等。针对这一问题,提出了一种新的标注方法,即只需要知道图片中包含多少个物体,以图片中行人的数量作为监督信息。与传统的真实密度图相比,所
为了提高基于眼电的眼动方向的识别准确性,文中利用包含眼电伪迹的脑电信号,提出了一种新的眼动方向分类方法。首先,在10-20国际标准导联配置下,通过脑电仪采集靠近人脑额叶
注意力机制近年来在多个自然语言任务中得到广泛应用,但在句子级别的情感分类任务中仍缺乏相应的研究。文中利用自注意力在学习句子中重要局部特征方面的优势,结合长短期记忆
随着三维扫描技术的快速发展,三维形状分析得到了学术界的广泛关注;尤其是深度学习在计算机视觉上取得的显著成功,使得基于多视图的三维形状识别方法成为了目前三维模型识别的主流方式。已有研究表明,三维数据集的数量对于最终的分类精度是一个非常重要的影响条件。然而,由于专业三维扫描设备的限制,三维形状数据难以采集。实际上,现有的公共基准三维数据集的规模远远小于二维数据集,三维形状分析的发展因此受到阻碍。为了解
外贸企业作为国民经济的主要构成部分,在数量与社会贡献层面均占据重要的地位。外贸企业尽管代表着创新及活力,但是近些年因市场需求萎缩以及国际经济衰退等因素,致使多数外