预训练相关论文
传统推荐算法对于复杂的用户-项目交互数据建模能力不足,多数模型基于用户单行为进行建模没有考虑到其他辅助行为中包含的信息,且......
在中文文本纠错任务上,基于神经机器翻译的文本纠错模型已经取得最优表现。提出一种复制机制的纠错模型,它复制待纠错句子中的字词到......
近期研究表明,基于大量无标签语音样本训练的预训练模型所提取的特征在说话人验证(SV)任务中表现突出。然而,现有的模型尚无法利用帧级......
目的 同一视频中的视觉与听觉是两个共生模态,二者相辅相成,同时发生,从而形成一种自监督模式。随着对比学习在视觉领域取得很好的效......
知识图谱将配电网现有大量半结构化/非结构化文本数据关联,提高配电网故障处置效率,但配电网多源异构文本数据难以用于深度学习模型......
依赖于大规模的平行语料库,神经机器翻译在某些语言对上已经取得了巨大的成功。无监督神经机器翻译UNMT又在一定程度上解决了高质量......
基于深度学习在图像分类领域的优异性能,提供一个包含多个苹果品种原始数据集,通过使用ResNet50、InceptionV3以及DenseNet121预训......
基于深度神经网络的大型预训练语言模型在众多自然语言处理任务上都取得了巨大的成功,如文本分类、阅读理解、机器翻译等,目前已经广......
文本摘要生成是自然语言处理领域的子任务之一,主要是根据原始文本,生成该段文本的摘要。目前传统做法是使用序列到序列模型将文本......
自2016年以来,我国电子商务快速蓬勃发展,网民的规模和交易额以较高的增长率在持续上升。伴随着电子商务产业的迅速发展,商品品类......
随着从经济全球化到文化全球化的发展,人们希望可以随时随地获取世界各地的信息以促进生产生活。在全球化交流中,文字是人类记录和......
基于卷积神经网络搭建ResNet(Deep Residual Network,深度残差网络,简称ResNet)50模型,利用ImageNet大型可视化数据集进行预训练,采用数......
随着数字技术的发展,各领域产生并共享了大量的视觉内容。如何搜索到所需要的图像成为一个挑战,特别是在数据库中搜索相似的内容,即基......
期刊
在对文博数据进行知识图谱的构建时,从文本中抽取出有效的三元组尤为重要,因而命名实体识别成为挖掘文博数据的首要任务。传统的中文......
随着抗生素的泛滥,许多细菌对抗生素产生了抗药性,威胁到了人们的健康。抗菌肽是一种具有抗菌活性的碱性多肽物质,它具有抗菌活性......
随着计算机文本处理的快速发展,词义表示也成为研究热点之一。不少研究工作已经证明词义表示可以提升许多自然语言处理任务的性能,......
图神经网络已被证明是建模图结构数据的强大工具,其优异的性能引起了学者高度的关注。而随着预训练在计算机视觉和自然语言处理等领......
随着互联网的普及,来自新闻、博客、社交网络等媒体的文档爆炸增长,从中发现特定信息的需求因而日益强烈。对于大规模文本,主题模......
实时语音翻译技术作为翻译技术的分支之一,具有非常丰富的应用前景,例如外语视频的字幕生成,国际会议同传翻译等等。然而,不同于相......
随着大数据和物联网以及5G通信技术迅猛发展,网络安全问题日益严峻。恶意软件制造者依托代码复用技术快速地生成新型恶意软件,新型......
日常生活中的信息多以文档的形式呈现,挖掘文档中实体对之间的关系更具有实际意义。但是现有的关系抽取方法大多是句子级别的,难以......
随着互联网视频行业尤其是短视频领域的蓬勃发展,视频搜索逐渐成为用户获取感兴趣视频的主要手段。其中,文本相关性计算作为视频搜......
现代医学经常借助于内窥镜对人体进行检查、治疗以及康复监测。但由于内窥镜视野较为狭窄且人体因为呼吸、运动等会导致器官发生形......
随着当今全球化进程的不断发展,机器翻译作为一种沟通不同语言的技术越来越重要。如何定量的评价机器产生的翻译结果在机器翻译领......
事件抽取是当前自然语言处理领域的研究热点和难点,目的是从大规模、无结构化的自然语言文本中提取反映客观事实的重要事件信息,在......
近年来,深度学习技术的快速发展使得语音识别的准确率有了巨大的进步,在多个行业完成了落地,越来越多的语音技术产品进入了人们的......
电子化在线教育是互联网与算机技术同教育方面的需求相结合的产物。近年大规模开放式在线课程学习平台得到了教育界人士的关注和大......
学位
意图识别任务本质上属于自然语言处理中的文本分类任务。意图识别任务按场景可分为口语意图识别和文本意图识别。口语意图识别使用......
2014年以来,神经机器翻译技术得到了飞速的发展,取得较多研究成果。但是在蒙汉机器翻译工作中,神经机器翻译方法的表现并不令人满......
Transformer在自然语言处理、计算机视觉和音频处理等人工智能领域取得了巨大的成功.学术界和产业界研究者设计出了各种各样的Tran......
期刊
随着近年来智能手机的广泛使用与移动社交平台的流行,使得基于位置社交网络(Location-based Social Networks,LBSN)业务得到了快速的......
电商行业的兴起,各类货品的流通速度加快。既方便了消费者购买,又让人们对商品的品质产生更高的要求。基于电商平台的载体,一种评......
近年来,随着科学技术的进步,人们的出行需求越来越大,而高速铁路(High Speed Railway,HSR)由于拥有着高效性、安全性以及环保性等突......
情感分析作为自然语言处理的重要子任务之一,在学术界和工业界都受到了广泛的关注。该任务的目标是预测给定文本中用户表达的情感,......
机器阅读理解,是自然语言处理的一个子任务,旨在让机器阅读、理解人类语言文本并回答相应问题,是自然语言处理与人工智能领域内最......
传统的可变几何截面涡轮增压器(Variable Geometry Turbocharger,VGT)控制在工业应用中多采用比例微分积分控制器(Proportion Integra......
航天情报实体识别是航天情报信息提取的一个子任务,摆在航天情报信息提取任务面前最大的难题就是标注语料的缺乏。因此,本文以航天......
大数据时代,数据规模越来越大,并且具有多样性和低信息密度等特点。这样的背景下,互联网内以文本形式存在的新闻数量繁多,而且难以......
机器翻译是自然语言处理的主要分支之一,在促进政治、经济、文化交流等方面起着重要作用.目前汉藏机器翻译质量还有待提高,汉文到......
文本情感分析是自然语言理解的重要研究方向之一。对话情感分析是文本情感分析的新兴研究领域,指在多轮对话的上下文中,分析每一句......
随着网络社交的普及,网络谣言会对社会造成非常大的影响。如何准确识别网络社交平台上的谣言对维护社会的秩序显得尤为重要。现阶......
为了快速处理航天情报,基于数据驱动的深度学习技术,提出融合多源异构知识标注中文航天情报数据集的方法流程,以及基于预训练(pre-......
多语言文本的情感分析是情感分析领域的重要问题之一,而现有的情感分析方法着重于对单语言文本的研究.本文针对中英混合文本提出了......
近年来,机器学习,尤其是深度神经网络方法促进了金融文本挖掘研究的发展,在金融科技(Fintech)领域起着越来越重要的作用.如何从金......
随着对地观测技术的快速发展,卫星遥感影像应用场景也日益丰富。然而,由于遥感数据应用门槛相对过高,专业知识储备要求相对严格,遥......
[摘 要] 随着信息时代的发展,文本包含的信息量越来越多,而同一段文本可以隶属于不同的类别,为了提升多标签文本分类任务的准确率,提出......