基于原型网络的半监督小样本分类算法研究

来源 :华南理工大学 | 被引量 : 0次 | 上传用户:bbandd
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
深度学习与人类智能存在一个显著的差异,即人类可以通过极少量的样本分辨新类别物体,而深度学习则需要大量训练样本才能实现良好的分类结果。为降低这一差异,研究人员开始探索小样本学习工作。小样本学习不仅能够减轻为模型收集大量全监督信息的负担,还能减少处理图像数据所需的人力物力。小样本学习分为三种学习方式:全监督学习、半监督学习和无监督学习。随着小样本学习的发展,一些研究人员从全监督小样本学习转向挑战性更高的半监督小样本学习。本文工作就是为解决半监督小样本图像分类任务研究基于原型网络的算法模型。为解决无标签样本的伪标签或重新训练引起错误传播的问题,本文第一个工作提出基于行为正则的原型网络半监督小样本图像分类模型(Behavior Regularized Prototypical Network,简称BR-Proto Net)。该算法模型为无标签样本构建可靠的训练目标,并且扩充训练数据。为实现该策略,在训练过程中为无标签样本集成并更新对应的预测信息,并且通过对抗干扰构造相似样本,同时为不同数据构建插值样本。所得到的更准确的类别预测又被作为训练目标来指导插值样本的学习,保持算法模型在无标签样本上预测的一致性。扩充样本在防止算法模型预测的突变的同时,约束模型在嵌入空间插值路径的行为。对抗干扰策略着重于单个样本及其附近区域的关联性。为研究样本分布间的相关性,本文第二个工作提出基于分布对抗的正则化原型网络半监督小样本图像分类模型(Distribution-Adversarial Regularized Prototypical Network,简称DAR-Proto Net)。该模型通过对抗学习研究数据分布间的关系。在时序一致和行为约束的基础上,使用一个特征转移网络对齐有标签样本和无标签样本的特征分布,两个分布向量经过不同分类器后通过最大最小化过程优化模型参数,提升网络的特征捕捉能力。训练过程中使用梯度取反方法实现同时同步的分布对抗学习,从而提高模型训练效率。本文通过大量实验验证了所提出模型为半监督小样本学习在图像分类任务带来的提升。
其他文献
生物活性玻璃(BG)具有骨传导性和骨诱导性,是优异的无机非金属骨修复生物材料。其中介孔生物活性玻璃因其较大的比表面积和有序介孔结构,可作为新型药物控释载体。已有报道发现,局部释放的芬戈莫德(FTY720)可以通过免疫调节促进成骨。然而,目前还没有理想的生物材料可以在骨缺损区域持续释放FTY720。本论文工作拟将FTY720添加到具有介孔结构的生物活性玻璃骨修复材料中,通过调节局部免疫微环境,促进骨
基于无机固态电解质的全固态锂电池具有安全性好、能量密度高、工作温度范围宽、循环寿命长等优点,被视为极有前途的下一代储能设备。硫化物电解质的室温离子电导率较高、机械性能良好,得到学术界和工业界广泛研究。本文首先探索硫化物固态电解质的最佳制备工艺;其次,对硫化物固态电解质与正极材料的界面进行了改性,制备了高性能的固态复合正极,从而提高全固态锂电池的可逆容量和循环寿命。主要研究内容如下:(1)通过固态烧
皮肤是人体与环境之间直接接触的界面,发挥着保护人体免受外部刺激维持人体内环境稳态的屏障功能,而从微观层面分析皮肤屏障功能其实主要由表皮承担,因而加速创伤部位再上皮化、形成更好的上皮结构对皮肤屏障功能维持至关重要。而毛乳头细胞(DPCs)是一类特化的成纤维细胞,在上皮-间充质作用中发挥着重要作用,能促进角质细胞迁移、分层分化形成结构更完整的人工上皮组织;但关于其促皮肤修复却少有涉及。为了探究毛乳头细
作为我国工业的支柱之一,化工行业往往工艺复杂、生产条件苛刻,生产过程中涉及到的化学品也常常具有毒性、易燃易爆、挥发性等特点。因此,保证化工过程安全就显得尤为重要。故障检测与诊断作为保证化工过程安全的重要手段之一,一直以来是学术界研究的热点。然而在实际化工生产中,由于生产设备的耦合化、大型化,会导致化工过程历史数据非常复杂,这些数据往往具有高维性、非线性、高噪声等特点,传统的故障诊断方法对其并没有展
拓扑优化是一种以材料分布为设计变量,在满足给定的边界条件及其他约束的前提下,在整个设计域中寻找最优的目标函数对应的材料分布的一种功能强大的设计方法,目前已经在建筑结构、航空航天、机械工程等领域获得了很大的发展。流体在自然界中无处不在,是最常见的物质之一,渗透于人类的日常生活和生产。从2003年开始,拓扑优化被引入流体领域并在流体领域中实现了应用。参数化水平集方法是近年来提出的一种新颖的拓扑优化方法
豆浆是一款营养丰富的植物蛋白饮品,人们对健康的追求激发了家用豆浆机的设计与制造,家用豆浆机制备的全豆豆浆具有较高的蛋白含量、可溶性纤维素和硫胺素等营养成分。为优化全豆豆浆加工工艺、降低豆浆机制浆能耗和提高全豆豆浆的营养价值,本论文研究了漂烫工艺和糖醇的使用对豆浆稳定性和抗营养因子活性的影响。本文首先研究漂烫温度对豆浆稳定性和抗营养因子活性的影响。结果表明,90℃漂烫30 s可以显著降低豆浆的胰蛋白
随着传统化石能源枯竭、气候变暖等问题的日益凸显,大力发展清洁可再生能源开展新能源革命成为世界各国关注的焦点。对于分布式能源的接入,相比于传统交流微网,低压直流微电网具有线路损耗小、供电半径大、电能质量高等优点,得到国内外学者越来越广泛的关注。由于低压直流微网的安全稳定运行,直接关系到对用户供电的可靠性,因此,本文围绕低压直流配用电系统,基于失效物理理论,从元件级、设备级和系统级逐级递进,开展相应可
结晶是精制各种固体化合物产品的重要方法之一。膜结晶因多孔膜材料对结晶过程存在明显的诱导作用而能较好地调控溶质分子在膜面的非均相结晶成核与晶体生长。然而在持续化膜结晶的过程中,发现晶体在膜面沉积时易发生膜孔阻塞,使得膜性能下降甚至失效。因此在膜结晶过程中有效分离膜面晶粒,维持系统可持续操作是膜结晶过程的发展方向。针对膜面晶体产品堵塞膜孔的问题,本文提出采用膜面旋转的膜结晶分离新方法,通过膜面旋转使附
人防工程关系到国家的安危,涉及到人民的生命财产安全,是国防建设的重要组成部分。随着城市化的不断发展,人防工程的规模越来越大,设备越来越复杂,对人防工程的设施管理也提出了更高的要求。有效的评价人防工程设施管理水平,能够明确各种因素对人防工程设施管理的重要性,同时可以为决策者提供依据。因此,对人防工程设施管理进行科学的综合评价,对于推动我国人防工程的健康发展具有重要意义。本文按照以下四个方面开展研究:
无监督异常检测旨在仅利用正常样本建立模型,而在推理时识别出不符合正常模式的样本。无监督异常检测在工业质检、视频监控等领域有广泛的应用。近年来深度学习和卷积神经网络在许多计算机视觉任务上取得了巨大的进步,但无监督异常检测方法在处理复杂的视觉数据时难以利用数据内部的语义上下文信息的问题依然存在。针对这一问题,本文在图像和视频两种类型的视觉数据上分别提出了相应的结合语义上下文的无监督异常检测方法。在图像