【摘 要】
:
智能化、信息化的快速发展便利了人们的生活,人工智能技术已渗入到生活的方方面面。然而凡事都有利弊,人工智能也不例外。在我们享受着人工智能带来的便利与幸福感的同时,安全领域的挑战和威胁也随之而来。例如:自动驾驶汽车频繁发生事故致人死亡。深度学习是人工智能领域常用的一种技术,在训练神经网络模型时,由于训练过程复杂且计算量大,训练过程常外包到服务商,然而在训练外包过程很容易受到后门攻击。攻击者在训练过程中
论文部分内容阅读
智能化、信息化的快速发展便利了人们的生活,人工智能技术已渗入到生活的方方面面。然而凡事都有利弊,人工智能也不例外。在我们享受着人工智能带来的便利与幸福感的同时,安全领域的挑战和威胁也随之而来。例如:自动驾驶汽车频繁发生事故致人死亡。深度学习是人工智能领域常用的一种技术,在训练神经网络模型时,由于训练过程复杂且计算量大,训练过程常外包到服务商,然而在训练外包过程很容易受到后门攻击。攻击者在训练过程中插入“精心制作”的中毒数据,通过在少量训练集上插入特殊的后门触发器影响网络决策,在标准验证样本和测试输入样本上表现良好,但在具有特定后门触发器的输入上表现不佳。因此,研究神经网络中的后门攻击和修复是非常有意义的。本文结合国内外后门攻击领域的研究现状,在神经网络图像分类领域做出如下工作:首先,针对现有的可见像素点后门攻击方法,提出一种后门修复方法,该方法综合考虑修复代价和对模型先验知识的需求程度;其次,针对现有可见像素点的后门攻击方法隐蔽性较差,后门触发器图形易于被检测,提出一种隐蔽的后门攻击方法。具体的内容和创新点有:(1)针对后门攻击修复方法重新训练计算消耗大的问题,本文提出一种基于cGAN的后门修复方法,该方法对模型先验知识需求少,且计算消耗更小。该方法由三部分组成:首先,通过K-Means聚类方法获得少量中毒数据;其次,使用cGAN(生成对抗网络)模拟生成大量中毒数据;最后,选择激活后门数据集的类别对模型重新训练,修复后门。使用具有代表性的后门攻击方法对本文提出的后门修复方法进行检测,修复后的中毒模型分类准确率可恢复至98.50%,逼近与使用完全干净的标准样本数据集训练的模型分类准确率。(2)针对可见像素点后门攻击方法在视觉上隐蔽性较差的问题,本文提出一种基于盲水印的后门攻击方法,发现神经网络易于被攻击的弱点,把不可见的盲水印图形作为后门触发器,该攻击方法不易被检测、修复,只有在了解神经网络模型内部结构的情况下才能对该方法有效防御。本文使用10个公开的网络模型LeNet系列(LeNet-1,LeNet-3,LeNet-5),VGG系列(VGG-11,VGG-13,VGG-16,VGG-19),Res Net系列(Res Net-18,Res Net-34,Res Net-101)和2个公开数据集MNIST数据集、CIFAR-10数据集对本文提出的攻击方法进行测试,均取得了良好的攻击效果。
其他文献
图像修复属于数字图像处理中的一个重要的研究分支,它是指将有缺损的图像通过技术手段复原,使其尽可能与原图像相同。目前图像修复在医学、安保、军事以及电影等行业中都有广泛应用,因此有很重要的研究价值。而近年来,深度学习尤其是生成对抗网络的出现,给图像修复研究提供了更好的技术和手段。边缘是数字图像中一个重要的信息,它可以在一定程度上可以反映物体的信息,确定物体的形状和边界。而在图像修复中,经常出现由于无法
近年来对于图像合成的研究已经取得了不小的进展,但是在一些医学领域的图像合成问题上依然存在着不足,其中包括对主动脉夹层增强扫描图像的合成研究。在主动脉夹层的临床诊断中,CTA图像诊断优势要远强于平扫CT图像。但是CTA图像所采用的增强扫描存在一定的弊端,因而利用深度学习技术构建网络模型,将平扫CT图像合成为CTA图像,对医学影像辅助诊断具有重要意义。本文先后提出了基于通道注意力机制的主动脉夹层增强扫
在石油生产测井领域中,准确地获取井中流体流量信息,对于油井状态评估、油井采收率提高和工程安全监测等具有重要意义。随着石油化工产业的不断发展和人类对于能源需求的不断扩大,石油生产测井逐渐从常规测井向低渗油气、高含水油气、页岩气等开采难度较高的方向转换,原有的流量检测手段逐渐难以满足人类的需求。光纤传感技术由于其具有灵敏度高、抗电磁干扰、耐高温高压、尺寸小、易于组网复用等优势,得到了相关领域科研人员的
气体传感器在空气质量监控、易燃易爆气体和有毒有害气体检测中发挥着重要作用。金属氧化物气体传感器(MOGS)因具有灵敏度高、测量范围广、响应/恢复时间快、寿命长、成本低等优势受到了广泛的关注。常见的MOGS材料有Zn O、In2O3、Sn O2、α-Fe2O3、Mo O3和WO3等,但是通常基于这些材料的传感器工作温度高,影响了进一步应用与发展。g-C3N4作为一种新型光催化材料,因其良好的光敏性和
乳腺癌是全球发病率第二高的癌症,也是女性发病率最高的恶性肿瘤。影像学检查在乳腺癌早期检测和诊断中扮演着重要角色,凭借其精准无创的诊断性能,检出初期乳腺疾病,从而抑制病情恶化、提升治愈率。磁共振成像(Magnetic Resonance Imaging,MRI)作为癌症检测的重要无创手段,能够发现乳腺早期病灶,精准地反映病变的形态特征和血流动力学信息,是乳腺癌早期检测的重要工具。同时,随着深度学习在
近年来,深度学习技术不断应用于各行各业。本文将深度学习技术应用于金融领域,对商品期货未来价格趋势进行预测。本文分析两类期货数据:数值型数据、文本型数据。数值型数据包括交易数据和指标数据,使用数值型数据可以辅助判断买卖点和趋势。文本型数据包括新闻、机构的分析文章、投资者的评论等多种形式,通过分析其传递出的情感,判断未来价格趋势。因此对这两类数据进行分析对投资者进行决策具有重要意义。数值型数据的趋势预
在现代临床诊断过程中,医生往往需要通过一系列医学成像技术对病灶进行分析,最终确认诊断结果。由此可见医学影像技术在现代医疗中扮演着关键性的角色。传统的图像配准算法,如B-spline和SYN等在医学配准中取得了很好的效果,但是它有一定的局限性,如适应性差,一种方法或一组参数只适用于某一特定模态甚至特定的数据集上;处理速度慢,传统的配准算法大都采用迭代优化的方式,导致其处理速度相当慢,无法进行实时配准
随着科技的发展,智慧家居、驾驶手势以及智慧医疗等人机交互的应用都会将手势交互技术加入其中,而手部姿态关键点估计对于手势交互技术的发展是十分关键的。深度学习不断发展,使手部姿态关键点估计发展迅速。然而目前手部姿态关键点估计存在以下两个问题:一是当前研究基本只对单手关节点进行检测而更实际和复杂的场景中,处理完整的图像,它不仅包含多只手,还包含人体、背景等其他物体;二是数据集短缺。网络的训练需要高质量的
2021年4月,习近平总书记在广西视察时强调,要"在推动边疆民族地区高质量发展上闯出新路子"。自治区第十二次党代会提出,要"在边疆民族地区率先实现高质量发展"。当前,我国已进入高质量发展阶段,边疆民族地区同步进入转型升级谋发展的关键时期。我区具有沿海、沿江、沿边的独特区位优势,推动边疆民族地区高质量发展迎来新的发展机遇,也面临新的挑战,在凝心聚力建设新时代中国特色社会主义壮美广西新征程上,
大脑年龄是衡量大脑衰老程度的一种生物标志物。大脑的异常发育和衰老会造成大脑年龄和个体真实年龄的偏差,这种偏差可以客观地反映大脑衰老的程度。大脑结构磁共振影像是一个高分辨率的三维影像。利用影像学技术从磁共振影像中预测大脑年龄,有助于发现以脑损伤、精神分裂症、阿尔茨海默症为代表的脑疾病。因此以大脑磁共振影像为数据的大脑年龄研究具有极大的医学诊治价值。传统的脑龄预测方法从大脑的磁共振影像中提取手工特征,