【摘 要】
：
在计算机硬件性能提升的基础上,深度学习算法被广泛应用,人工智能技术不断有新的突破。其中图像和文本领域的技术创新尤为显著,主要体现在问答系统、目标检测、情感识别等研究方向上。本文主要研究的是计算机视觉与自然语言处理的交叉领域——视觉问答系统。视觉问答系统是多模态领域的一项热门研究问题,该系统的主要任务是分析与识别图像和文本两种模态下的表征数据,并对多个模态下的数据进行特征融合处理,以便获得相应问题的
论文部分内容阅读
在计算机硬件性能提升的基础上,深度学习算法被广泛应用,人工智能技术不断有新的突破。其中图像和文本领域的技术创新尤为显著,主要体现在问答系统、目标检测、情感识别等研究方向上。本文主要研究的是计算机视觉与自然语言处理的交叉领域——视觉问答系统。视觉问答系统是多模态领域的一项热门研究问题,该系统的主要任务是分析与识别图像和文本两种模态下的表征数据,并对多个模态下的数据进行特征融合处理,以便获得相应问题的答案。视觉问答系统由早期卷积神经网络与长短时记忆网络的融合模型,发展到使用注意力机制的模型,再发展到感知图像、问题间逻辑推理关系的模型,视觉问答系统产生了诸多进步。本文在对图像和文本数据的特征提取、多个模态间的特征融合、答案结果生成等步骤利用图神经网络、协同注意力机制等先进的深度学习模型实现。同时,额外引入场景图等外部辅助数据,进一步优化模型结构。本文主要的工作和创新点如下:（1）提出了基于图注意力和协同注意力机制的视觉问答系统（GAT-CA）模型,利用该模型对Faster R-CNN模型预训练的图像特征和采用Bi-LSTM模型及自注意力机制编码的问题特征进行特征学习与特征融合。其中图注意力机制模块主要负责对图像问题数据间的特征聚合,协同注意力机制模块用于学习图神经网络聚合特征和问句间的注意力信息。（2）提出了使用场景图等额外信息的情况下,基于图注意力和协同注意力机制的视觉问答系统（GAT-CA-SG）模型,同GAT-CA模型相比,本模型充分利用了场景图信息中顶点和边数据,并构造出场景图融合目标特征和融合关系特征,使用融合特征对问题进行推理。（3）本文模型充分考虑了各个模态下的信息权重,在答案生成阶段,使用自然语言问题特征、协同注意力特征、图像目标特征和场景图特征（仅GAT-CA-SG模型使用）联合推理,得到最终问题答案。（4）将本文提出的GAT-CA模型和GAT-CA-SG模型在VQA2.0数据集、GQA数据集和CLEVR数据集上进行实验,与其他算法比较,验证了本文模型的有效性。
其他文献
随着深度学习的快速发展,卷积神经网络越来越广泛的应用到计算机视觉领域中。我们通过多步卷积、池化等操作可以实现对特征图的下采样操作,以扩大感受野并提高神经网络的提取能力。然而,在多数的计算机视觉任务里,如在目标检测、语义分割、超分辨率等领域中,对特征图进行上采样操作以保留图像的整体细节也很重要。在传统的上采样操作中,通常在原图像像素间采用插值算法填入新的像素信息。这会出现生成图像目标边缘信息误差较大
随着互联网和电子设备的快速发展,图像、文本、音频等数据正在以不可想象的速度增长,此类数据蕴含众多的信息但无标签,人工为数据标注类别信息的代价大,但是对海量数据的智能管理已然成为一种现实需求和必然趋势。图像聚类分析从数据中挖掘有代表性特征对数据进行分类,在人工智能等很多领域广泛应用,越来越受到研究的重视。现有的聚类算法普遍存在训练误差较大、聚类性能依赖特征表达能力、泛化能力弱等问题。如何设计具有较强
当面对一个分类问题时,如何从众多的可用算法中选择当下问题最适合的算法是一个具有挑战性的问题。相关研究表明分类算法的表现强烈依赖于数据本身的特性,因此人们相信更好地理解数据集对分类算法的研究发展至关重要。元学习将算法选择作为一项学习任务来解决,试图学习元特征和最佳算法之间的映射,而其核心问题在于元特征的构建,即定义哪些数据特征对算法选择最有价值。目前大部分的方法中只考虑了简单特征和统计特征,无法很好
许多机器学习问题都可以表示成损失函数加正则化项的形式,目前最流行的求解方法是以随机梯度下降（Stochastic Gradient Descent,SGD）为代表的随机梯度优化算法。然而,最常用的小批量或单样本的随机梯度下降是计算速度与求解精度的折衷。随机梯度下降的优势主要有两点,一是每次迭代不需要计算全样本梯度,减少了计算量;二是避免由于样本数据过大导致的内存不足问题。但是这带来的问题是引入了随
图像聚类是机器学习和计算机视觉中一项关键而又具挑战性的任务。传统的聚类方法,如K-Means,谱聚类,凝聚聚类等已广泛应用于各类任务,并取得了不错的结果。但对图像等高维数据进行聚类时,由于很难抽取到可判别的视觉特征表示,往往无法得到满意的聚类结果。为了解决该问题,很多研究者提出使用不同的深度卷积网络学习图像数据的特征表示,并结合传统聚类算法,实现图像数据的深度聚类,且已取得了较好的结果。本文主要基
近些年,深度学习作为一种人工智能技术取得了前所未有的发展,在许多领域都取得了巨大的成功,展现出了强大的应用潜力。然而,最近的研究表明深度神经网络（Deep Neural Networks,DNNs）模型容易受到对抗样本的愚弄。所谓对抗样本是指那些通过精心添加一个不易察觉的扰动设计的对抗性样本,对抗样本可以愚弄一些最先进的DNNs模型,导致DNNs给出错误的分类结果,这阻碍了在现实世界中部署DNNs
在数据挖掘领域,分类问题一直都是研究的重点,而传统的分类器大多是针对平衡数据进行分类,无法对不平衡数据进行准确地分类。为了解决数据不平衡分类问题,人工少数类过采样法被提出,但由于是随机选取少数类样本的近邻样本进行生成新样本,容易导致少数类边界模糊的问题。为了弥补这一缺陷,基于引力的人工少数类过采样法（GSMOTE）被提出。首先,该方法结合原始支持向量机和K近邻方法对原始数据进行去噪,避免噪声样本生
近年来,语音情感识别的研究一直是一项具有挑战性的任务。语音情感识别的目的是从语音中提取情感特征,并将其分类为快乐、悲伤、愤怒或中性等情感。早期的语音情感识别的研究广泛依赖于使用音频特征来构建性能良好的分类器的模型。但人类在对话中不仅通过语音表达情感,还通过面部表情和身体动作来表达情感,而语音信息本质上是由声学特征和文本信息组成,因此文本信息中也包含情感特征。由于仅使用语音数据的情感识别模型的性能逐
随着科技的进步,我们已经进入了海量数据的时代,人们生活的方方面面都会产生海量数据,这些数据属于各种各样的类别,在现实生活中这些类别下的数据大多数都是非平衡的。例如病例诊断,天气气候分类,野外稀有物种的检测、垃圾短信检测等。如何有效准确地分类这些非平衡数据就变成如今一个非常热门的研究领域。绝大多数的分类算法在分类时会偏向多数类别的群体,而对少数类别分类效果不好,在一些极端情况下甚至会完全忽略少数类别
基于重构的异常检测方法是指使用重构误差作为异常得分的异常检测方法,在其训练阶段,训练集仅由正常数据构成,当训练数据较为充分时,它在该训练集上能够取得较小的重构误差。在测试阶段,正常数据的重构误差和异常数据的重构误差会出现较大的差异,因此可以利用重构误差将待测数据判定为正常数据或异常数据。作为常用的基于重构的异常检测方法,基于生成式对抗网络（generative adversarial nets,G