人眼能够从复杂的场景中快速而准确地找到与众不同的目标或者区域,此即人眼的视觉注意机制。显著目标检测基于视觉机制,旨在利用计算机模拟人眼的视觉机制功能,通过算法找出图像中最显著的目标。作为一个视觉任务的预处理过程,在其他的计算机视觉,模式识别任务中发挥了巨大的作用,比如图像分割,图像压缩,视觉追踪,场景重建等。目前图像显著检测主要分为两个部分,单幅图像显著目标检测和协同图像显著目标检测,单幅图像显著目标检测旨在检测单幅图像中的显著目标,而协同图像显著目标检测旨在检测一组图像集中的共同显著目标。随着Depth信息的广泛应用,Depth信息被证明在显著目标检测领域是十分实用的特征,因此显著目标检测的对象也从RGB图像逐渐扩展到RGB-D图像。因此单幅图像显著目标检测可以分为RGB图像显著目标检测和RGB-D图像显著目标检测,而协同图像显著目标检测可以分RGB协同图像目标检测和RGB-D协同图像目标检测。本文主要研究RGB协同图像目标检测和RGB-D显著目标检测。在现有RGB协同图像显著目标检测中,没有真正做到将一组图像作为整体考虑,从而难以获取好的协同一致性,并且会包含许多协同背景。目前RGB-D显著目标检测需要解决的问题有两个,一是设计Depth特征,二是有效地结合RGB特征和Depth特征。传统的模型通过手工设计特征,虽然能够取得一定的效果,但是泛化程度很低,而基于将RGB特征和Depth特征分别处理,然后融合两个流的显著图得到最终的显著图,虽然能够取得一定的成果,但是Depth图如果效果很差或者完全无用的话会对最终结果产生很大的影响。本文提出了一种新的模型来获取协同目标的一致性,并且可以降低在复杂背景下对协同目标的干扰。模型包括一个基于树的结构化稀疏规则化项可以使得相同类中的超像素具有一致性显著值,另外模型整合了一个拉普拉斯约束规则化项可以平滑同一类中超像素的显著值。此外,为了提高模型的有效性和精确度,本文定义了一个协同权值并且融合到模型中,通过矩阵分解,将原始特征空间分解为低秩部分和稀疏部分,稀疏部分为最终的协同显著目标。本文提出的RGB图像协同显著目标检测模型在iCoseg,iCoseg-sub,Image Pair三个公开数据集上与其他当前最新的模型进行了比较,实验结果表明本文模型具有较好的结果。针对RGB-D图像显著目标检测,本文提出了一种以颜色特征为主要线索,Depth特征为辅助特征的单流递归神经网络的显著目标检测模型。首先将RGBD四通道输入VGG-16网络,生成RGB-D图像最原始的多级特征。网络深层特征可以检测和定位显著目标,但会丢失边界和一下细微结构。因此,将深度递归卷积神经网络应用于各层次特征中,实现了从深到浅的层次递进的显著目标轮廓优化。利用Depth特征、原始Depth图像和粗糙显著图,各层次特征可以预测不同尺度下的显著目标。最后将各个层次的显著图融合在一起,得到最终的显著图。本文模型在最广泛使用的NLPR1000,NJU2000,LFSD,STEREO四个RGB-D数据集上对本文提出的RGB-D单流网络显著目标检测模型和当前最新的RGB-D图像显著目标检测模型进行了验证和评估,实验结果表明本文模型取得了较好的结果。本文针对RGB协同显著检测和RGB-D显著目标检测提出了上述两种模型,并且取得了较好的结果,为显著目标检测的研究提供了多种思路,为计算机视觉和模式识别领域研究工作做准备。