【摘 要】
：
基于神经网络的深度学习技术目前已广泛应用于各个领域,一旦神经网络模型遭到攻击,将对人们的隐私和财产安全产生巨大的威胁,因此神经网络模型的安全性成为研究热点。对抗样本生成技术是攻击网络模型以及检测网络模型鲁棒性的关键技术,同时对该技术的研究有助于推动对抗防御技术的发展,帮助提高神经网络的可解释性。本文关注图像识别下的对抗样本生成问题,主要从白盒场景中的对抗样本生成、黑盒场景中基于迁移和基于查询的对抗
论文部分内容阅读
基于神经网络的深度学习技术目前已广泛应用于各个领域,一旦神经网络模型遭到攻击,将对人们的隐私和财产安全产生巨大的威胁,因此神经网络模型的安全性成为研究热点。对抗样本生成技术是攻击网络模型以及检测网络模型鲁棒性的关键技术,同时对该技术的研究有助于推动对抗防御技术的发展,帮助提高神经网络的可解释性。本文关注图像识别下的对抗样本生成问题,主要从白盒场景中的对抗样本生成、黑盒场景中基于迁移和基于查询的对抗样本生成三个方面展开研究。1、在白盒攻击场景中,本文主要关注如何进一步降低对抗攻击算法生成的对抗样本中扰动的大小。在著名的C＆W算法基础上,通过利用数据样本附近的神经网络决策边界可以近似为超平面这一几何特性,本文提出了C＆W-PD算法,该算法在优化的过程中通过逐渐增大对抗样本附近决策面的法向量与扰动的余弦相似度的绝对值,来进一步减小对抗样本与原始图像之间的L2距离。此外,通过利用神经网络决策边界的几何特性,本文提出了更具普适性的受几何特性启发的扰动减小算法（Geometry Inspired Perturbation Decrease,GIPD）,现有的白盒对抗攻击算法所生成的对抗样本经过GIPD算法都可以使该对抗样本沿着决策边界进一步地向原始图像靠近,最终可以有效地降低该对抗样本中扰动的大小。2、在基于迁移的黑盒攻击场景中,本文主要关注对抗攻击算法可迁移性的理论解释。Nesterov动量有助于提高知名的I-FGSM算法生成的对抗样本的可迁移性,但目前仍缺乏一个可靠的理论来解释上述现象。本文的研究表明,具有较低可迁移性的对抗扰动倾向于在扰动单元之间表现出较大的相互作用。本文在Shapley值方法的基础上证明了基于Nesterov动量的I-FGSM算法（NI-FGSM）可以进一步降低扰动单元之间的相互作用。进一步地,本文从理论上证明了NI-FGSM算法比I-FGSM算法在可迁移性上的表现更优。此外,本文提出了基于Nesterov动量的ADMM-ATT算法（NADMM-ATT）,该算法通过将Nesterov动量应用于基于ADMM的对抗攻击算法中来提高对抗样本的可迁移性。3、在基于查询的黑盒攻击场景中,本文主要关注如何提高对抗攻击算法对网络模型的查询效率。本文将多模型集成的方法分别应用于基于查询的对抗攻击算法Sim BA+和Sim BA++中,提出了Ens-Sim BA+和Ens-Sim BA++算法。这两个算法通过集成多个替代模型的梯度信息来提高对图像中像素点坐标采样的指导效果,同时也用来提高Ens-Sim BA++算法中使用的迁移攻击算法的可迁移性,以此来提高这两个算法对目标模型的查询效率。同时通过实验发现,Sim BA++算法中使用的迁移攻击算法的可迁移性与该算法对目标模型的查询效率,这两个指标呈正相关关系。通过利用这一实验发现,本文使用迁移性更强的SI-NI-TIM算法来进一步提高Sim BA++和Ens-Sim BA++算法对目标模型的查询效率。本文在不同规模的数据集以及多种流行的网络结构上设计了大量实验,充分验证了本文所提算法的有效性和优越性。
其他文献
在数据挖掘中,数据不平衡是世界上普遍存在的问题。然而,对不平衡数据进行分类的问题在不同部门中不时增加。为了克服一些标准的不平衡数据技术无法准确平衡多数类和少数类的挑战,用于不平衡数据分类的基于增强的合成采样（ABS）被提出了。ABS方法连接特征并增加现有样本的样本数量以生成合成数据。本文的主要研究贡献为:（1）本论文通过建模将输入数据与训练好的特征串联起来,确定输入数据中特征之间的关系,得到训练样
事件相机是一种新型视觉传感器,模仿了生物视觉系统的成像机制,具有高动态范围、高时间分辨率、低数据冗余的特点,在军用及民用领域均有重要应用价值。事件相机只感知场景中的变化信息。当事件相机中某像素感受到光强的变化时,会触发一个表示光强变化信息的事件,该事件包含触发像素的坐标和触发时间信息。事件相机以事件流的形式输出数据,而非传统相机的灰度图像。事件流形式的数据表示方式为非结构化的,给面向事件相机的数据
高光谱成像作为遥感领域的重要分支,因其极高的光谱分辨率,在地物高精度分析方面具有着不可替代的优势,在国防建设与经济发展中的众多领域都有着极为广泛的应用。因此,高光谱图像的高精度分类已经成为高光谱图像处理中的重要课题。但是,在高光谱图像中,一些噪声与冗余波段对其传输与分析处理带来了困难,这使得高光谱波段选择的重要性越发凸显。深度学习的蓬勃发展展示了其强大的学习与表征能力,相关方法与高光谱处理领域的结
细粒度图像识别研究近年来逐渐兴起,在无人零售、智慧交通、人机交互等方面具有广泛应用。本文就transformer在细粒度图像识别领域存在空间特征提取粒度过于粗糙及模型参数过大存在计算冗余两大弊端分别展开研究,一方面,进一步细化transformer的特征提取粒度,另一方面,在保持理想识别精度的情况下压缩其参数量、去除冗余计算,便于实际应用。本文的主要的研究内容及技术创新如下:第一,针对原始tran
人体姿态迁移旨在目标姿态的引导下,将原始图像的人物姿态转换至相应的目标姿态,并保持人物身份和外观的一致性。该研究在游戏绘画、电影制作和虚拟试衣等领域具有极大的商业前景,此外,该研究还被应用于去伪检测和行人重识别研究课题,作为数据增强的解决方案。近年来,随着人工智能浪潮的来临,人体姿态迁移技术得到了快速发展,在姿态迁移准度、多姿态泛化性能以及商业落地应用等方面均有显著进步与提高。然而,当前人体姿态迁
计算机视觉在工业生产、物体检测、先进的车辆安全系统等领域的广泛应用中发挥着至关重要的作用。然而下雨等特殊天气导致所拍摄的图像质量下降和细节丢失,从而影响物体检测、自动驾驶车辆检测和监控设备等任务。因此,对获得的图像进行图像恢复以生成干净的图像,有利于提高目标检测算法的准确性。本文使用Efficient De Rain算法提高物体检测率和准确率。它将作为图像的预处理,并通过深度学习算法进行对象检测。
在底层计算机视觉任务中,超分辨技术通过增加图像的空间分辨率,提供更多语义信息来弥补成像设备的不足。传统图像超分辨方法将其建模为优化问题,引入先验作为约束条件,来逼近真实图像,但存在人工设计先验单一、无法满足实时需求的问题。基于深度学习的方法利用大规模数据的优势,在图像超分辨上取得更好的视觉效果。然而,现有工作对任意倍数超分任务的研究较少,且精度最优模型的参数量巨大,难以在边缘设备上部署。针对上述问
推荐系统是解决信息过载问题的关键技术,通过挖掘用户的属性信息、物品的属性信息以及用户的历史行为日志来分析用户的兴趣偏好并为用户生成推荐列表。本文对物品评分预测和会话推荐两个推荐场景进行了研究,设计了三个推荐模型,有效提升了推荐性能,具体工作如下:（1）现有的物品评分预测方法通常为用户和物品的特征设置统一固定维度,并且假设特征嵌入维度之间彼此独立,对用户和物品在不同空间维度中的交互特征提取不充分,导
高光谱图像具有丰富的空间信息与光谱信息,在环境监控,精准农业等领域具有重要的作用。随着深度学习的发展,基于神经网络的高光谱图像分类技术越来越成熟。但在一些需要模型增量式,持续式学习的高光谱图像分类任务中,或者在模型以往训练过的数据不能获取的情况下想要得到模型对新旧数据良好的分类能力时,模型往往会出现灾难性遗忘问题。增量学习方法可以解决这类问题。本文针对有回放的高光谱图像增量分类任务,做出了以下的探
随着深度学习技术的不断发展,高性能神经网络结构的研究愈发重要,设计能够满足不同任务需求的网络结构成为热点研究问题。然而,神经网络结构的设计不仅需要相关的专业知识,还往往需要大量的时间和计算资源来进行结构试错,这对于普通用户而言门槛较高。神经网络结构搜索作为自动机器学习中的重要一环,它能根据指定任务进行网络结构的自动化搜索,大幅度降低了深度学习的使用门槛,用户无需学习网络结构设计相关的专业知识,就能