【摘 要】
：
深度学习模型的性能需要大量的数据作为支撑,在实际的许多应用场景下,比如罕见病的医疗影像等,存在着由于样本量较少而无法完成模型的训练问题。因此,在小样本数据量的情况下,研究提升模型的性能具有极其重要的现实意义。度量学习是解决小样本学习的一种有效方法,特征的嵌入表示质量决定了该方法性能的好坏。本文分别从改进损失函数和改进网络结构两方面提升度量学习的特征嵌入质量,从而提升模型的泛化能力。(1)针对度量学
论文部分内容阅读
深度学习模型的性能需要大量的数据作为支撑,在实际的许多应用场景下,比如罕见病的医疗影像等,存在着由于样本量较少而无法完成模型的训练问题。因此,在小样本数据量的情况下,研究提升模型的性能具有极其重要的现实意义。度量学习是解决小样本学习的一种有效方法,特征的嵌入表示质量决定了该方法性能的好坏。本文分别从改进损失函数和改进网络结构两方面提升度量学习的特征嵌入质量,从而提升模型的泛化能力。(1)针对度量学习算法中的特征表示质量不高的问题,提出基于对比平均距离(CMD)的度量学习算法(CMD-MLA)。CMD-MLA算法将支持向量机中间隔的思想引入进来,同时考虑与样本周围相同类别的相似性及不同类别的差异性,使小样本学习模型在参数更新时考虑了更多的类别信息,得到的特征嵌入更具有全局性。CMD-MLA算法是一种通用框架,可以与不同的基于度量的小样本学习模型结合。本文将CMD-MLA算法与原型网络模型(ProtNet)结合,在图像分类基准数据集Omniglot和MiniImageNet上进行一系列对比实验。CDM-MLA算法在小样本学习任务的分类正确率分别平均提升了 0.3%和0.7%,有效的提升了小样本学习模型的泛化能力。(2)针对度量学习算法中ProtNet模型在目标域样本数量匮乏的问题,提出图像特征图的通道特征融合的网络模型(SE-ProtNet)。SE-ProtNet利用注意力机制将ProtNet忽视的通道特征加入模型的类别特征表示,能够学习得到不同通道特征的重要程度。SE-ProtNet根据这个重要程度取提取对当前任务有用的特征而压制那些对当前任务影响较小的特征。本文在图像分类基准数据集Omniglot和MiniImageNet上进行一系列对比实验,与ProtNet相比,SE-ProtNet在小样本学习任务的分类正确率分别平均提升了 0.5%和1.1%,有效的改善模型的特征嵌入质量,增强了模型的鲁棒性。
其他文献
随着传统媒体和互联网技术的不断更新和发展,网站建设在各企业单位信息化战略中显得尤为重要,网站是知识宣传和群众活动的网络平台,在企业信息宣传和信息传播工作中发挥了极大的作用。目前我国对网站服务质量评估指标体系的设置尚未全面。因此本文以科协为例介绍网站影响力评价指标体系的建立和系统的设计与实现。为实现网站评价,本文建立了基于链接分析的科协网站评价指标体系,构建网站链接和网站流量两个一级指标。网站链接指
随着工控网络技术的发展,大量的通用软硬件应用到工控网络中,与此同时,工控网络也变得越来越开放。工控网络在提高生产力的同时,也面临着越来越多来自外部网络的威胁。诸如Modbus/TCP之类的工控网络协议缺乏必要的安全机制,在信息化和工业化不断融合的情况下,这给工控网络安全带来了极大的威胁。本文针对基于Modbus/TCP的工控网络,结合分布式计算技术,设计并实现了基于流量的工控网络实时攻击行为检测系
未来网络的服务范围需要向着更多维、更细颗粒度方向提升,为海量的物联网终端提供从5G核心网的接入、汇聚再到云数据中心、骨干网、容器化/虚拟化网元的调度等多层次的服务,网络比以往任何时候都需要成为一个平台。SRv6技术继承并发展了现有的网络技术,可以兼容当前网络基础设施,实现平滑地过渡、演进和部署,在网络虚拟化如二层、三层VPN部署、网络可靠性、流量工程以及负载均衡等方面都显现出了极大的优越性。论文提
荔枝是华南典型的热带水果,主要在我国广东、广西、福建、海南等地区种植。荔枝种植是华南地区农户增加经济的主要方式之一,其产量至关重要。为提高荔枝产量,快速、有效地获取作物营养状况、长势等信息,提出科学合理的施肥管理至关重要。为了快速准确的获得荔枝的生长信息,本文以广东省典型荔枝种植园为研究对象,分别研究和建立地面高光谱与无人机多光谱的生长信息监测模型,并比较了地面高光谱和多光谱的模型性能。由于多光谱
碳纤维复合材料因其具有比强度高,比刚度大,耐腐蚀,抗压耐高温及重量轻等优良复合材料的力学性能,广泛应用于高精尖的科研装备制造领域和其他机械制造行业。但是碳纤维复合材料在生产和服役的过程中,由于长期在恶劣的环境中运行,如承受外力冲击、疲劳、蠕变等各种环境因素,都可能对其产生严重和不可目视的内部力学损伤,使得碳纤维复合材料的整体力学性能和其使用寿命发生了急剧下降,严重影响了材料的使用性和其可靠性。因此
随着国民经济发展水平的提高和人们生活质量的提升,旅游业呈现出一片朝阳之势,目前,我国已经进入大众旅游时代,旅游已然成为人们日常生活当中不可或缺的一个部分。以旅游客流
自十七大明确提出“创新驱动发展战略”以来,创新驱动发展成为了我国经济发展的主旋律。之后,一系列相关政策相继出台,在这些政策措施的推动之下,我国不断加大创新投入力度,创新产出成果丰硕,科技竞争力和国际地位都得到了进一步地提升。黑龙江省政府紧随政策步伐,发布了一系列政策措施,不断深化市场化改革、推进企业技术创新,但是近年来的创新驱动成效并不显著,经济下滑的趋势也没有得到成功遏制。作为我国东北老工业基地
就业作为民生之本,对于残障人士而言更是参与社会活动,成就自我理想与尊严的关键,在一代又一代人的努力下,残障人士的就业数量与质量都得到了极大地提升,我国的残障事业取得蓬勃发展。但是,由于残障人士在生理层面的缺陷,加上社会环境的影响,残障人士在就业过程中面临着诸多社会排斥。二十世纪六十年代以来,西方的社会排斥理论逐渐成为政策研究者、政府部门探讨社会问题深层根源所经常使用的概念。它在丰富和深化社会剥夺、
习近平总书记强调:“培育和弘扬社会主义核心价值观必须立足中华优秀传统文化。博大精深的中华优秀传统文化是我们在世界文化激荡中站稳脚跟的根基。”礼仪作为中华民族传统文化的重要组成部分,是中华民族最宝贵的精神财富,为实现伟大的“中国梦”提供强有力的文化理论支撑。因此,大学生礼仪教育研究,有助于大学生树立正确的文明礼仪观念,养成良好的礼仪行为习惯,为推动社会进步、构建和谐社会贡献力量。本文以社会学、伦理学
作为一种新型的碳纳米荧光材料,碳点(Carbon Dots,CDs)由于其低毒性、较良好的水溶性以及优异的光学性能,已经在生物成像、荧光标记、离子检测及催化等领域引起了广泛关注。传统的CDs的荧光量子产率相对偏低,研究发现在CDs中进行氮元素掺杂,可以改善其荧光性能。聚胺类大分子因其具有较好的水溶性,氨基含量高,氮元素能深入碳骨架,产物荧光性质稳定,被认为是一类理想的氮元素掺杂前体,在制备高量子产