基于交替方向乘子法的分布式哈希搜索算法

来源 :南京邮电大学 | 被引量 : 0次 | 上传用户:WarmAir1982
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
基于哈希的大规模图像搜索技术近年来得到了广泛的应用,大量的集中式算法已被提出并且取得了很好的性能,特别是基于深度学习的哈希算法极大提高了搜索精度。然而在实际应用中,数据规模越来越大,数据以分布式的方式分散在不同位置,将所有数据集中到一个计算中心进行训练,将导致过高的传输和计算开销。因此,需要提出新的分布式哈希搜索算法,分散在不同位置的样本独立训练,通过有限的参数传递实现集中训练的效果。交替方向乘子法(Alternating Direction Method of Multipliers,ADMM)是适用于可分离凸优化问题的简单有效方法,在机器学习、数据挖掘和计算机视觉等领域中得到了广泛应用,特别适合解决分布式搜索问题。本文研究了基于ADMM的分布式哈希搜索算法,目标函数包括两部分:采用矢量量化策略,通过最小化数据的量化误差训练编码矩阵;同时通过优化分类误差以提高哈希码的语义特征。在分布式环境下,采用ADMM算法求解上述目标函数,通过一致性约束将问题分解成一系列子问题,并在独立计算节点上进行分布式求解。在节点间进行参数传递以得到优化的全局参数,在此基础上得到全局最优的编码矩阵以实现分布式哈希搜索。在CIFAR-10和NUS-WIDE数据集上的实验结果证明了该方法的优越性。在此基础上,本文进一步研究了分布式深度哈希算法,在卷积神经网络架构的特征层和输出层之间加入隐层,在优化分类损失的基础上增加二进制限制条件以生成二进制哈希码。具体分布式优化过程包括:首先,每个计算节点的网络参数进行预训练,对所有节点应用ADMM算法,通过一致性约束优化得到全局最优的分类器,然后,利用全局最优分类器,更新隐层参数并生成哈希码,最后,采用反向传播算法优化网络的特征层参数,完成分布式训练过程。在CIFAR-10数据集上的实验结果显示了该算法的有效性。
其他文献
Ti(C,N)基金属陶瓷,具有高硬度、高耐磨性、高熔点、高抗氧化性和高耐腐蚀等性能,是一种性能优异且用途十分广泛的材料。在耐磨性与切削效率方面,Ti(C,N)基金属陶瓷优于传统的WC
随着深度学习的发展,自动驾驶技术受到工业界和学术界广泛关注。当前的自动驾驶技术主要采用激光雷达进行目标感知,激光雷达不仅成本高昂,而且对于交通信号灯、交通标志等这一类具有具体语义的目标难以判别。因此,采用基于计算机视觉的方法对于解决跨视角下的信号灯检测问题具有重要意义。本文聚焦于真实街道场景中的交通信号灯检测与感知问题进行了研究,并针对跨视角信号灯检测中遇到的极小目标检测问题、不同域信号灯之间域自
番茄由于连作,栽培品种、模式、管理技术等方面的问题,青枯病的发生非常严重,对番茄种植的可持续发展造成巨大的影响。生物防治因生态环保等优点逐渐受到各界关注。本研究从
目的:在全球范围内,GC(gastric cancer,胃癌)是导致癌症相关性死亡的第二大原因。亚洲地区内胃癌发病率更甚。LRG(laparoscopic radical gastrectomy,腹腔镜胃癌根治术)由于其术中出血少,术后恢复快等优势,越来越广泛的被应用于胃癌患者的治疗中。随着手术技术的不断提高,在中国、韩国、日本等亚洲国家,外科学者已把腹腔镜胃癌D2根治术作为标准的根治术式。随着生
静电纺丝是一种利用高压电场将溶液或熔体加工成纤维的制造技术,具有广泛的应用前景。现有的有关静电纺丝的理论非常不完善,难以很好地指导静电纺丝工艺创新和优化。为此,本
本体异质结有机光电探测器制备工艺简单、性能易优化、成本低、环境友好。随着有机半导体光电性能的提升和器件物理的发展,本体异质结有机光电探测器的性能参数不断改善,提高其外量子效率(EQE)以及探测灵敏度成为亟需攻克的科学问题。以界面陷阱诱导外电路电荷隧穿注入为工作机理,可制备出具有单载流子传输特性的倍增型有机光电探测器。倍增型有机光电探测器的单载流子传输特性,可有效抑制光电探测器的暗电流密度,提高其弱
新丝绸之路倡议的提出引起了国内外各界的广泛关注及讨论。译者选取波士顿大学的新丝绸之路研讨会进行了模拟交替传译实践。交替传译是一个跨语言、跨文化过程,包括接收源语
目的前瞻性地研究131I治疗对分化型甲状腺癌(DTC)患者卵巢贮备功能的影响。材料与方法76例经甲状腺双侧叶全切或次全切除手术,术后病理确诊为DTC并计划于我科行131I治疗的患者
我国正处于社会急剧变革的转型期,随着新公共管理理论的发展,政府职能转变,社会公众对政府的要求和期望持续提高。作为政府公共权力的执行者——公务员发挥了不可替代的作用,
公版书作为人类社会文明传承的产物,对公版书的开发,既是一次窥见知识文化延续的契机,也是一次全新的经典再诠释。在新的技术条件和阅读生态环境下,经典图书市场正处于转型阶