半监督对抗鲁棒模型无关元学习方法的研究与实现

来源 :南京邮电大学 | 被引量 : 0次 | 上传用户:flfi2003
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
计算机技术迅速发展的今天,机器学习在许多领域已经取得了非常优秀的性能表现。虽然新的机器学习算法层出不穷,性能也逐步提升,但是机器学习的成功更多地是依赖大量的高质量标注数据。可是在许多专业的领域,数据或标注样本数据稀少,而数据标注不仅枯燥乏味、消耗时间,还需要大量具有专业领域知识的人力资源,如何在少样本场景下进行深度学习通常不是一项容易的任务。元学习的出现为上述问题的解决寻找新的突破口。元学习希望训练得到的元模型在学习到的“元知识”基础上,利用来自新任务的少量标注样本,仅通过少量梯度下降步骤微调模型,就能够在该任务上快速适应,这与人工智能的观点十分契合。模型无关元学习(MAML)已成为少样本学习中最成功的元学习技术之一。但由于训练样本的缺乏,MAML元学习器更难适应数据分布。当MAML在元训练期间对现有任务过度训练时,得到的分类器决策边界不够准确。不合理的决策边界使得元模型更容易受到微小对抗扰动的欺骗,这导致MAML在新任务上的鲁棒性能变差。论文提出半监督对抗鲁棒模型无关元学习方法semi-ARMAML与基于动态焦点损失的半监督对抗鲁棒模型无关元学习方法semi-ARMAMLDFL。semi-ARMAML在目标函数中分别引入半监督的对抗鲁棒正则化项和基于信息熵的任务无偏正则化项以优化决策边界。特别地,对抗鲁棒正则化项的计算允许未标注样本包含未见过类样本。semi-ARMAMLDFL重写焦点损失,在目标函数中引入基于信息熵的任务无偏正则化项和半监督动态焦点损失正则化项,以改善模型的鲁棒性,并在元训练过程中,动态更新调制因子,以调整模型对易受对抗样本攻击的难分类任务与易分类任务的关注度。最后,在Mini Image Net和CIFAR-FS两个基准数据集上进行对比实验,证明了semi-ARMAML对输入扰动的敏感性大大降低,能较好地适应于真实应用场景,具有较强的对抗鲁棒性和通用性;而semi-ARMAMLDFL相比semi-ARMAML,牺牲了一定的干净样本鲁棒性能,但其对抗鲁棒性能提升明显,从而获得了更优的整体鲁棒性。
其他文献
区块链是结合了共识算法、加密算法、分布式数据存储、点对点传输等计算机技术的新型应用模式。因为区块链具有去中心化、数据不可篡改、数据可追溯等特性,工业界将其应用于防伪溯源系统中。基于区块链的防伪溯源系统可以识别假冒伪劣商品,同时在商品溯源失败时可以快速定位到出现问题的环节。区块链为防伪溯源系统带来安全的同时,其使用的实用拜占庭容错(Practical Byzantine Fault Toleranc
镁锂(Mg-Li)合金作为世界上最轻的金属结构材料,在比刚度和比强度上也具有显著优势,正逐渐替代铝合金成为宇航产品机壳类材料的首选合金。随着宇航产品功能及性能要求的不断提高,宇航电子产品的机壳必须同时具有高的导电性和高的红外发射率以满足对其热控以及电磁屏蔽性能的要求。大量研究成果表明高红外发射率膜层一般具有良好的绝缘性能,而高导电率金属膜层红外发射率较低,难以同时实现高红外发射率与高导电率的性能要
目的:皮肤T细胞淋巴瘤在临床表现与病理特征上,与许多炎症性皮肤病相似,因此较难早期诊断。现今对皮肤T细胞淋巴瘤的预后仍缺乏可靠的分子标记物。方法:本研究共纳入2005年至2013年我院皮肤科科淋巴瘤门诊诊治的皮肤淋巴瘤患者158例和炎症性皮肤病70例,应用Affeymetrix和Agilent测序平台分析了两种疾病中不同表达的miRNA。并在训练集患者中用rt-PCR测量各个候选miRNA的表达量
目的探讨新型钙磷涂层镁锌钆合金(Ca-P-Mg)以及circ RNA-vgll3基因修饰的脂肪间充质干细胞(ADSCs)复合磷酸钙骨水泥(CPCs)构建的组织工程支架修复眼眶骨/骨缺损的作用及机制,为其在眼眶外科领域的应用提供理论基础。方法1.通过Tunel染色、q PCR等评估Ca-P-Mg对骨髓间充质干细胞(BMSCs)的细胞相容性和成骨诱导性。Ca-P-Mg用于犬眼眶标准骨缺损的修复,术后行
光栅投影三维测量技术因其具有非接触、无损、高效率、高分辨率、全场测量等特点,在产品设计与制造、产品检测与质量控制、医学工程、虚拟现实、智能安防等行业都有很大的应用发展潜力,已成为三维测量领域近年来的一个研究热点。典型的基于数字光栅投影的结构光三维测量系统由一个数字摄像机(相机)和一个数字投影仪组成。目前,现有研究工作主要围绕数字光栅投影三维测量系统实现中的相位-三维坐标映射关系建立、绝对相位获取、
背景:环状RNA(circular RNA,circRNA)是一类具有闭合环状结构的非编码RNA(non-codingRNA,ncRNA),在真核生物中有着丰富的表达,其生成机制、生物学作用以及与疾病的关系成为近几年研究的热点。circRNA主要产生于外显子的反向剪接,并且会与线性RNA的形成起到相互竞争的关系。目前研究显示,circRNA在调控miRNA表达、基因转录以及蛋白质翻译等多个生物学过
目的:在肺癌分子靶向治疗中,通过抑制癌基因诱导肺癌细胞死亡信号通路的激活是影响治疗效果的关键因素,在以往的研究中细胞凋亡被认为是最主要的程序性细胞死亡方式。但是,对于那些细胞凋亡的诱导或执行存在缺陷的肿瘤细胞,靶向治疗就会失效,然而其它由靶向药物诱导的程序性死亡方式还没有被系统地研究。本项目聚焦靶向药物诱导肺癌细胞焦亡,研究其作用机制,探索细胞焦亡和细胞凋亡之间的相互作用以及二者的共存性,揭示细胞
研究背景和目的:急性髓系细胞白血病(AML)是一种能发生在各个年龄段具有高异质性和高死亡率的造血干细胞恶性克隆性疾病,AML的发生发展和特定基因与染色体表达异常相关。EVI-1基因位于人类染色体3q26.2,编码的EVI-1蛋白为核转录因子蛋白。EVI-1蛋白作为人类血液系统肿瘤和部分实体瘤的重要调控因子也参与哺乳动物的胚胎发育过程。多项研究表明在大约8%AML患者体内存在EVI-1基因过表达,且
第一部分原发性胆汁性胆管炎患者的肠道菌群改变目的:明确原发性胆汁性胆管炎(PBC)患者肠道菌群结构和功能的改变,研究熊去氧胆酸(UDCA)治疗对PBC患者肠道菌群的影响。方法:收集PBC患者和健康对照的粪便标本,提取细菌DNA,通过16s r RNA测序分析肠道菌群组成。在横断面研究中,共纳入79例未接受过UDCA标准治疗的PBC患者(称之为治疗前PBC患者)和114例健康对照,并按照入组时间将其
随着电力行业的稳步发展,直流电缆运行的电压等级也随之上升。然而由于直流电缆在制作、运输、安装、运行过程中容易发生碰撞等,从而在电缆中形成缺陷,任何微小缺陷经过在较高的直流运行电压下的发展,会损害直流电缆的绝缘情况,甚至造成停电事故,因此微小缺陷对于直流电缆系统的安全稳定运行是非常大的威胁。局部放电可以很大程度反映出电缆设备的绝缘状态,因此研究局放信号的特征提取和缺陷识别的方法具有十分重要的意义。通