得益于近些年来算力的巨大提升和训练数据的飞速增长,深度学习成为了计算机视觉领域诸多任务的主流算法。然而收集一个大规模、有精确标记的数据集成本非常高昂。一方面,一些数据集的标记工作需要用到专家的知识,另一方面,通过网络可以很方便的收集数据构建一个含有噪音标签的数据集,但是这些噪音同样会使网络产生严重的过拟合现象,从而使网络的准确率急剧下降。因此,寻找一种高效并且鲁棒的算法来处理带有噪音标签的数据集,将非常具有研究意义和实际应用价值。本文将基于深度学习网络模型探索噪音标签问题,主要工作包括:1.标签带噪的单标签图像识别研究。单标签图像识别问题是噪音标签领域最重要也是被研究最多的课题。目前很多现有的方法需要用到额外的辅助信息,包括不含噪音的额外数据集辅助训练和真实的噪音分布矩阵等。另外,很多基于设计更鲁棒损失函数的方法在真实世界的数据集上表现不够优秀。因此,本文提出一种名为PENCIL(probabilistic end-to-end noise correction in labels)的端到端框架,它会同时更新网络参数和噪音标签。PENCIL可以用于任意的网络结构并且不需要干净数据集的辅助或者关于噪音的先验信息。因此,PENCIL方法比之前的方法更加鲁棒并易于使用。实验中,在各种不同的数据集中,相比之前的方法PENCIL可以使网络性能得到显著的提升。2.PENCIL的抗噪原理及拓展应用。PENCIL采用标签概率分布来监督网络训练并且在每一轮训练中都通过反向传播来端到端的更新这些标签分布。所以整个更新过程将非常关键,PENCIL框架中分类损失函数的选取将会产生很大的影响。本文提出一种反向的KL散度,它与之前方法中用到的损失函数并不相同,但是在处理噪音标签的过程中更加鲁棒。接下来,本文证明反向的KL散度确实比原始的KL散度和均方误差函数更加适合PENCIL框架。最后,基于PENCIL的抗噪原理,本文提出一种新的训练方式,通过多次重复使用PENCIL框架来使网络性能获得显著的提升。3.标签带噪的多标签图像识别研究。相比单标签图像识别任务中的噪音标签问题,在多标签图像识别任务中整个问题会变得更加复杂。因此,原始网络在仅使用sigmoid函数的情况下太过简单而不足以处理该问题。而本文提出的PENCIL框架会基于网络提供的预测来纠正噪音标签,所以一个多标签分类性能更好的基础网络将非常重要。因此,本文提出一种名为Attention的模块去替换原始基础网络中的全局平均池化层来增加网络的性能。Attention模块可以用于任何网络,这保留了 PENCIL与网络结构无关的优点。在实验中,不同规模的网络在使用Attention模块之后,在多标签分类问题上性能均得到显著的提升。而在使用了 Attention模块的基础网络中,PENCIL框架也可以有效的处理多标签问题中的噪音标签。