【摘 要】
:
随着深度学习技术的应用和发展,其安全隐患逐渐暴露出来。神经网络已被证明容易受到对抗性攻击,通过向样本添加微小的扰动能够使得模型输出错误的结果。这一安全威胁逐渐渗透到计算机视觉、语音识别、自然语言处理等各个领域。当前针对对抗样本的研究还存在诸多的问题:首先,多数关于对抗样本的研究集中于样本依赖的对抗扰动方法,这样的方法需要为每个样本生成特定的对抗性扰动,攻击的实现依赖于样本,效率较低。最近的研究表明
论文部分内容阅读
随着深度学习技术的应用和发展,其安全隐患逐渐暴露出来。神经网络已被证明容易受到对抗性攻击,通过向样本添加微小的扰动能够使得模型输出错误的结果。这一安全威胁逐渐渗透到计算机视觉、语音识别、自然语言处理等各个领域。当前针对对抗样本的研究还存在诸多的问题:首先,多数关于对抗样本的研究集中于样本依赖的对抗扰动方法,这样的方法需要为每个样本生成特定的对抗性扰动,攻击的实现依赖于样本,效率较低。最近的研究表明神经网络也可以被与图像无关的通用对抗扰动所欺骗,因此需要研究高效的通用对抗扰动生成方法;其次,当前的通用对抗攻击只在无目标攻击上取得了较好效果,扰动的迁移性较差,由于扰动具有约束,实现定向的有目标攻击仍具有难度,已经提出的方法的扰动能力都有较大提升空间,因此需要克服通用对抗攻击效果弱、迁移差的问题;最后,关于通用对抗扰动的可解释性也缺乏探讨,需要探究其能够实现通用攻击的原因。针对以上问题,本文主要进行了以下方面的工作:(1)本文提出了通用对抗扰动的高效生成方法Simple Fool,将有目标通用对抗攻击和无目标通用对抗攻击统一结合到同一生成框架之中,将通用对抗扰动的求解转化为最优化问题,实现了简单高效但攻击能力强的通用扰动。(2)本文提出了有目标通用对抗扰动攻击方法,针对CIFAR-10、GTSRB-43、Image Net分类任务各目标类别生成的有目标对抗扰动,添加到各自任务的测试数据集上,均实现了超过95%的攻击成功率。面对训练数据分布不均衡、训练样本分布均衡但样本量极少,甚至是无法获得目标模型的训练数据等多样的限制条件,仍然能够实施成功有效的攻击。这证明了提出方法的强攻击能力,进一步揭露了现有神经网络的脆弱性。(3)提出的无目标通用对抗扰动生成方法,在不同分类任务和VGG16、VGG19、Goog Le Net、Res Net50、Res Net152等多个经典神经网络模型上达到了超过93%的攻击效果。并且与其它现有的方法进行对比,本文的攻击修改区域更小,扰动效果更强烈。在同一任务不同模型下,本文提出的无目标通用对抗扰动的迁移攻击能力是现今方法中最好的。(4)从跨数据和跨模型角度对生成的通用对抗扰动进行了可视化特征分析。从数据的角度,发现无论用何种数据集,为同一目标类别合成的通用对抗扰动具有结构上的相似性,并且扰动本身具有和目标类别数据特征相似的性质,其强触发性能够直接使得模型输出错误的结果。从模型的角度,本文发现无论用何种模型作为攻击模型,针对同一分类任务,其合成的无目标通用对抗扰动随模型结构的变化而变化。相似结构的模型合成的扰动具有相似性,并且相互之间的迁移攻击能力更强。这样的可视化特征分析为所提出的对抗扰动的通用性做出了可解释的回答。
其他文献
随着计算机视觉技术和人工智能技术的发展,快速提取自然场景中的文字需求也急剧增加,捕获和识别这些文字有助于理解和分析图像,而靠人工去手动读取图像中的文本不仅耗费大量时间和精力,而且也容易出错。因此,自然场景图像中的文本检测识别成为当下热门的研究话题之一。目前文本检测与识别在现实生活中有着广泛的应用,例如手机设备上的拍照翻译软件,可以拍摄异国街道或路牌上的文字,将一种语言实时翻译为另一种语言,提供导游
计算机博弈作为近代计算机技术和博弈理论结合的产物,已成为当前人工智能领域最热门的研究方向之一。完全信息博弈因其具有广泛的场景实用性成为计算机博弈的主要研究方向。近几年随着人工智能技术的发展,深度学习和强化学习领域的相关算法已被广泛用以解决各类完全信息博弈问题。特别的,通过神经网络训练与强化学习算法的结合演化出的众多人工智能算法已应用于多种博弈类游戏中,如完全信息博弈代表之一的围棋。由Deep Mi
大型天线在战略预警、深空探测、射电天文领域具有重要的价值和广阔的应用前景。随着探测分辨率和灵敏度要求的提升,大型天线正朝着:高增益、高频段、高指向精度和交流伺服的方向发展。然而,结构参数和环境因素与伺服控制系统相互耦合,成为制约大型天线性能提升的一个关键问题。针对这一问题,本文系统研究了交流伺服驱动大型天线的机电动力学建模、参数辨识和自适应控制方法,具体内容包括:针对传统天线伺服系统简化模型存在难
红外弱小目标跟踪是红外搜索跟踪系统的核心技术之一,深受学者们的关注,且算法研究十分具有挑战性。通过算法对超远距离、复杂背景中运动的目标进行探测和锁定,对轨迹进行关联分析,可以显著提升弱小目标探测率,降低虚警率,使军事系统提前做出预警。良好的目标检测算法是发现目标的基石,鲁棒的目标跟踪算法是得到准确运动路径的保障,精准的轨迹关联算法是判断目标的决定因素。本文以预警红外弱小目标序列为背景,对杂乱背景下
机器人技术与机器人产业已经成为社会经济发展的重要支柱。七自由度机械臂由于其灵活、重量轻以及适用场合多样等特点,是机器人未来发展的重要方向。本文以具有球腕结构的七自由度机械臂为对象,研究了七自由度机械臂的运动学解析解、动力学解析解以及控制方法,并通过仿真验证了这些算法的准确性与可行性。研究取得的主要内容有:(1)对七自由度机械臂的构型进行了分类和比较,从中选取了具有球腕关节的构型作为研究对象。通过建
天线作为无线通信系统的组成部分,一直承担着收发电磁波的重要责任。现如今,随着通信需求的不断提高,天线阵的出现和设计也越来越精细复杂。对于庞大且复杂的天线阵结构,优化设计研究所耗费的计算资源如计算时间、内存消耗等也随之增大。本文旨在利用机器学习能够拟合复杂非线性函数的同时计算耗时还低的优势,将天线阵优化设计与机器学习相结合,降低传统天线优化设计的成本。本文的主要研究工作为将机器学习方法应用于天线阵优
在当今各个现代化行业中,应变监测技术都有着广泛的应用需求,如结构健康监测领域需要应变监测技术确保结构在可允许的范围内使用。然而目前的应变传感器多数采用有线有源的技术方案,难以适用于封闭空间、高温高压以及机械动力旋转部件等恶劣测量场合,对于上述场合的应变测量,只能使用无线无源应变传感器。因此关于无线无源应变传感器的研究很有意义。常见的电容式无线无源应变传感器结构复杂、高工艺要求等不足限制了其使用场合
车辆、舰船、飞行器等运输载体在工作过程中受外界环境影响较大,将不可避免产生颠簸、震荡等现象,从而导致运输载体上的导航、侦察和稳瞄等设备无法正常工作。稳定平台能够通过实时检测并主动补偿运输载体的位姿变化,实现隔离扰动,从而保证安装于载体的设备在外部干扰作用下具有稳定的工作环境。本文研究的2-UPS/U并联机构是一种典型的少自由度并联机构,能够绕空间定点实现两个方向的自由转动,具有刚度大、承载力强和控
近年来软体机器人逐渐成为了机器人领域研究的热点。软体执行器作为软体机器人的重要组成单元,具有柔性好和适应性强等优点,被广泛应用于物体抓持和医疗服务等领域。然而,由于软体执行器具有材料非线性和几何非线性,其运动学建模一般是结合实验得出含有大量经验参数的数值化公式,难以进行参数优化分析。本文为了建立一种描述气动软体执行器弯曲变形的数学模型,首先利用简化的Yeoh模型建立了其主动弯曲变形模型,然后基于链
机器博弈是检验人工智能发展水平的一个重要标准,其研究成果能够解决许多现实问题。根据参与者能否完全掌握博弈状态,机器博弈分为完备信息机器博弈和非完备信息机器博弈。多人非完备信息机器博弈问题广泛存在于现实世界中:小到人与人之间的牌类博弈,大到国与国之间的军事博弈。因此,研究多人非完备信息机器博弈具有十分重要的意义。近年来,随着深度神经网络的发展,研究人员将神经网络应用在多人非完备信息机器博弈上,并取得