近年来人类收集、存储、传输、处理数据的能力得到了飞速提升,人类社会的各个角落都充满了大量数据,深度学习是能有效地对人工智能爆发时代下的数据进行分析利用的计算机算法。其中,卷积神经网络已经在计算机视觉,如图像分类、人脸识别等应用领域,取得了飞跃性的进步。然而,一方面,随着卷积神经网络的深度与广度不断扩大,模型训练成为一个艰巨的任务。另一方面,在计算机视觉中,传统的目标检测和图像分类等任务的模型训练严重依赖于人工标注,随着我们迈入大数据时代,为数百万图像标定这样的标签是非常费时费力而不切实际的。因此,为了解决卷积神经网难以训练的问题和减轻标注图像的人工劳力,本文提出了基于深度网络和媒体监督的多任务学习算法,利用相关任务共享特征空间的特性挖掘视觉信号的多样性。本文提出了一种基于网络监督的多示例与多任务聚类的视觉概念学习算法,用于在测试图像中检测出感兴趣的物体样例。为了减少模型训练前所需数据集的人工标注,本文利用社交媒体中被上传的大量图像及对应的相关文本描述,并结合图像局部块提取方法,设计了基于数量指导的多示例学习算法以建立图像区域和文字概念之间的连接。特别的是,大多数多示例学习方法为了获得高精度,牺牲了召回率的提升,只从每个标签为正的袋中提取一个正示例,而我们所提出的方法相对于这些方法的关键改进在于,我们从每幅图像中挖掘的的正示例的数量由相应视觉概念的数量辅助完成,因此充分利用了图像和文本信息。此外,本文针对视觉概念的多样性,对学习到的概念分类器执行聚类多任务细化,以通过聚类正则化增强其泛化能力。具体来说,本文能够挖掘视觉概念的多样性,自动将相关视觉概念聚类在同一组。本文设计了一种基于多任务正则化与逐层监督神经网络的人脸点检测方法,用于解决卷积神经网中的由于训练数据不足导致的过拟合,反向传播过程造成的梯度弥散使得深度网络的训练非常困难这两个问题。首先,为了使得网络训练过程更透明并解决梯度弥散的问题,本文提出了一种深度监督的方法改进传统卷积神经网的级联方式。具体来说,本文对于深度网络的每一中间隐藏层引入监督函数,以提升反向传播时的梯度信号,这些监督层能够加强在反向传播过程中传递的梯度信号,并且在早期层中提供额外的引导以避免梯度弥散的问题。其次,对于卷积神经网中训练数据不足易导致过拟合的问题,本文提出了多任务正则化的算法来同时训练特征点检测和四个与之相关的其他任务,即引入多任务正则化使得所有任务共享参数空间,以提升主任务的检测准确率,提高模型的泛化能力。