近年来,随着计算机和网络技术的快速发展和普及,多媒体数据越来越多样化并在网络和社交媒体上呈现出爆炸性增长的趋势。如何有效管理、检索和利用这些庞大的多媒体数据成为了国内外工业界和学术界共同关注的问题。基于紧致编码的最近邻搜索技术具有占用空间小,计算复杂度低等优点,已经被广泛应用于多媒体数据的管理和分析。在本文中,我们较为全面的研究了面向多媒体数据最近邻检索的紧致编码学习算法。针对单模态和多模态等不同应用场景我们分别提出了不同的新颖算法提高最近邻检索的性能,针对无监督和有监督等不同数据类型,我们提出了不同结构来有效约束哈希编码的学习过程。同时,我们进一步分析了基于深度学习的紧致编码技术存在的安全问题,提出了面向深度哈希的对抗样本生成算法。本文的主要研究内容可以概括如下:（1）针对单模态有监督最近邻检索,提出了一种基于双路的深度哈希算法。本算法设计了图像流网络和类标流网络,通过类标流网络对不同数据类别学习特定的中心表示从而降低图像网络所学特征的类内差异性,同时本方法能够考虑多类别之间的相互依赖关系,高效的处理多类标数据。通过同时学习哈希编码和类别中心,本方法能够降低多类标数据的类内差异性并提高学习哈希编码的有效性。（2）针对单模态无监督最近邻检索,提出了一种基于语义结构的无监督哈希算法。现有的有监督哈希算法通常利用类别信息构建语义结构来指导哈希编码的学习并取得了非常好的效果。然而在无监督情况下,我们无法利用类标信息构建相似矩阵。在本文中,通过对训练数据深度特征的统计特性进行经验性分析,我们提出了一种无监督语义相似矩阵的构建方法。通过将学习到的语义相似矩阵引入到现有的无监督哈希学习框架中,本算法能够利用传统有监督的损失函数,对不同数据之间的相似关系进行优化。大量实验表明本文所提方法能够得到更优化的哈希编码。（3）针对跨模态有监督最近邻检索,提出了一种深度跨模态哈希检索算法。本算法同时考虑了类别间和类别内等多种成对约束,并引入了新的针对哈希编码的正则项对哈希编码之间的相关性进行降低。通过端对端的优化训练,本算法能够从图像直接得到哈希编码,增强了特征学习和哈希编码的协同性。大量的实验分析验证了本文所提方法的有效性。（4）针对跨模态有监督最近邻检索,进一步提出了基于深度量化的检索算法,是最早将量化学习引入到深度跨模态检索中的工作之一。本算法显式的构建了模态间共有空间和各模态独有空间。通过将数据映射至核希尔伯特空间学习多模态数据的共有表示和各模态的独有表示,本算法能够有效的对多模态数据进行解耦合。最后,在共有空间中,本算法利用类标一致的量化学习对特征进行量化编码,在保持模态内和模态间相似性的同时能够有效降低量化损失,提高编码效率。（5）现有研究表明深度图像分类模型非常容易受到对抗样本的攻击,这也给基于深度学习的紧致编码算法带来了安全方面的关切。基于此,本文研究了现有深度哈希编码算法对对抗样本的鲁棒性。通过分析现有深度哈希算法和图像分类中的对抗样本生成算法,本文提出了一种新颖的针对深度哈希近邻检索的对抗样本生成算法,并在不同设置下验证了对抗样本的泛化性能。根据实验结果分析,本文进一步提出了一种简单有效的黑盒子攻击算法。综上,针对多媒体数据类内差异性大,模态之间的语义鸿沟以及紧致编码学习过程中量化误差较大等问题,本文提出了四种改进学习算法有效的克服了现有算法在这些问题中的不足并取得了较好的性能。同时本文提出了一种针对现有深度哈希模型的对抗样本生成算法,对当前深度紧致编码学习方法的安全性进行了研究。大量的理论分析和实验验证了本文所提方法的优越性。