论文部分内容阅读
非负矩阵分解(Non-negative Matrix Factorization,NMF)、半监督学习(Semi-supervised Learning,SL)和深度学习(Deep Learning,DL)在低秩模型和特征表示中是三种具有代表性的机器学习方法,已经在特征提取、计算机视觉和模式识别等领域获得了广泛应用。本文在对NMF、SL和DL深入研究的基础上,提出了两种改进的非负矩阵分解方法,并结合深度学习,提出了一种多层NMF网络方法。(一)一种稀疏正则化的非负增强判别矩阵分解(Non-negative Enhanced Discriminant Matrix Factorization with Sparse Regularization,NEDMF_SR)方法。该方法不仅引入了系数矩阵的稀疏性,而且结合了系数矩阵的类内和类间判别信息作为正则化项,以增强低维表示的判别力和稀疏表达能力。方法在最大化了类间离散惩罚项的同时,最小化了低维表示的类内紧凑鼓励项和稀疏约束项。进一步地,给出了优化求解的迭代规则和收敛性证明。最后,通过构建局部分类器和全局分类器,给出了基于NEDMF_SR方法的图像分类与识别的框架。广泛的实验表明,提出的NEDMF_SR方法对图像破坏(真实伪装和不同尺度的随机块遮挡)是鲁棒的。(二)一种软标签约束下的多通道鲁棒判别矩阵分解(Multi-channel Robust Discriminant Non-negative Matrix Factorization with Soft Label Constraint,MRDNMF_SL)方法。该方法考虑3点需求:1)数据的低维表示应当与原始数据空间保持一致;2)为了更好地预测到合适的标签,低维表示应当是具有判别性的;3)低维表示对奇异值和噪声应当是鲁棒的。为此,本文构建了MRDNMF_SL的目标函数,通过最小化目标函数,使得数据在学习的子空间中具有良好的数据表示能力;接着详细给出了方法的优化求解过程,本文方法通过设置软标签矩阵,可以同时适应于半监督学习和监督学习。另外,为解决深度学习处理由于各自的外观变化而导致的能力不足问题,特别是在饰物遮挡和光照因素环境中,本文提出了一种多层NMF网络(Multi-Layer Non-negative Matrix Factorization Net,MLNMF)方法,该方法的单元算法采用本章提出的MRDNMF_SL方法。通过层次化特征表示和特征融合,进一步增强了特征的判别性,弥补了深度学习数据表示能力不足问题。通过网络的单层和多层特征融合实验,可以看出,本文方法在很大程度上改善了深度学习处理图像破坏时的能力不足问题。