基于监督学习的跨模态检索方法研究

来源 :南京邮电大学 | 被引量 : 0次 | 上传用户:funwoods
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
随着云计算与大数据技术的快速发展,互联网数据呈现爆发增长的趋势。日常使用的新闻网站、社交软件及应用软件,每时每刻都有海量数据生成,这些数据的存在形式可以是文本、图像、视频、音频等,本文统称这些不同类型的数据为多模态数据。在大数据时代下,传统的单模态检索显然无法满足大量且混合的多模态数据的相互检索,为了更有效地根据用户的兴趣搜索出相应的信息,需要研究出速度快,准确度高的跨模态检索方法,针对互联网中存在的多模态数据做高效的检索。对跨模态数据检索的研究逐渐受到许多学者和研究人员的关注。本文利用数据的标签信息学习数据的底层特征,同时保证高层的语义信息在学习过程中不会丢失,通过线性映射或非线性映射将不同模态的数据投影到统一的特征空间中,标签信息具有指导特征学习和挖掘不同模态数据关联性的作用。基于监督学习对模态间和模态内的语义一致性进行学习,能够充分挖掘高层的语义信息,保持数据的语义关联性。对跨模态检索技术进行了深入的学习和研究之后,本文提出了三种基于监督学习的跨模态检索方法:1、为了提高特征的线性区分能力,避免哈希码量化过程产生的误差,提出了一种基于有监督核函数的离散跨模态哈希方法(Supervised Kernel Function for Discrete Cross-modal Hashing),简称SKFDCH。通过核函数将每个模态的数据非线性地映射到不同的高维空间中,解决数据在低维空间的线性不可分问题;基于矩阵分解的思想,学习每个模态的潜语义哈希空间,然后将不同维度的数据线性转换为各模态特定的哈希码,保留不同模态的数据所要表达的语义信息;结合各模态包含的语义信息和标签信息定义了一个语义亲和矩阵,在各模态特定的潜语义哈希空间对哈希码的相似性建模,获取语义区分性更强的哈希码。本文在算法优化阶段采取了一种离散的求解算法直接学习哈希码,有效避免了量化误差。2、为了有效减小模态差异,同时保留模态特定的语义信息,提出了一种基于生成性对抗网络的模态一致性跨模态检索方法(Modality Consistent Generative Adversarial Network for Cross-modal Retrieval),简称MCGAN。通过生成性对抗网络将跨模态的检索任务近似转换为单模态检索任务,有效保留了图像模态的语义信息;然后设计了一个模态一致性嵌入网络将图像特征和生成的特征投影到公共的语义空间中,利用标签信息对模态间和模态内的特征进行相似性的建模;定义了标签分类损失函数和类中心损失函数对网络参数进行训练和更新。最后获得语义区分性较强的实值特征,有效提高图文互检的准确性。3、为了减小模态的差异性,充分挖掘模态间和模态内的语义相似性,减小数据的存储空间,同时减少有用信息的丢失,提出了一种基于生成性对抗网络的语义关联跨模态哈希方法(Semantic Correlation Generative Adversarial Network for Cross-modal Hashing),简称SCGAN。该方法将生成性对抗网络与哈希学习相结合,通过生成性对抗网络将文本特征映射到图像的特征空间中,有效减小两个模态的差异性;然后将生成的特征和真实图像特征通过语义关联哈希网络映射到一个汉明空间中,通过符号函数得到哈希码;最后利用标签信息挖掘数据的语义相关性,定义了三个损失函数帮助网络训练,其中标签分类损失函数对相同模态的哈希特征相似性进行建模,阈值判别损失函数对模态间的哈希特征相似性进行建模,哈希度量损失函数有效减小哈希码量化过程中产生的误差。在两个常用于跨模态检索研究的数据集Wikipedia和NUS-WIDE上进行了相关实验,与一些最近流行的方法在同等的实验设置下进行的对比实验证明了所提出的三个方法具有一定的有效性和可行性。
其他文献
三人篮球,从2017年宣布成为东京奥运会比赛项目开始,在2018年进入亚运会的比赛。在我国2017年全运会也增设三人篮球项目,2018年成立全国三人篮球委员会,2019年确定三人篮球运动员技术等级标准,同时国内各项三人篮球赛事开展如火如荼。中国三人篮球擂台赛暨“我要上奥运”选拔赛(以下简称“中国三人篮球擂台赛”)是在体育改革大背景下,进一步推动我国三人篮球运动的普及和发展,为备战奥运会选拔国家集训
气候变化是当今世界共同面临的风险,为了尽快缓解气候变化并控制全球变暖的速度,个体的作用逐渐得到重视。国内外的学者们对亲环境行为进行了大量研究,认为文化世界观、风险感知以及心理阻碍是亲环境行为的重要影响因素。文化世界观是个体对社会组织或文化生活方式的偏好,根据“群(group)”、“格(grid)”两个维度进行划分,“群”维度是指个体融入社会的程度,个体在群体中承受的压力,遵守社会秩序的程度。“格”
根据党的十九大报告精神,要充分发挥社会组织在各方面的重要作用,特别是在社会治理创新方面的作用,有非常深刻的理论基础和现实背景。社会组织作为政府与群众之间的枢纽体系,是政府职能改变后的主要载体。社会组织扎根基层、联系群众,具有专业化的独特优势,能够协助解决各种与市民群众息息相关的问题。社工机构作为社会组织的重要组成部分之一,在社会建设和社会发展中的作用日益凸显。为了能持续协助政府承担公共服务职能,社
党的十九届五中全会将拓展新时代文明实践中心建设纳入"十四五"规划建议。新时代文明实践中心建设中的"文化、健身体育服务平台"功能与基层综合性文化服务中心的"功能场室"和
2019年11月初,主题为“东融大湾区,开放新梧州”的第十六届梧州宝石节在“世界人工宝石之都”——梧州隆重举行,该市友好城市瑞典本茨弗什市受邀参加此次盛会。宝石节期间,瑞典代表团一行4人出席第16届梧州宝石节开幕式、友好城市展及相关活动。代表团本次来访重点关注双方在社会福利、医疗、教育等方面的务实合作,访问了梧州市中医院、梧州职业学院、市社会福利院等地。笔者在此次访问活动中担任瑞方陪同口译员。本篇
目的本课题拟“四逆汤”加减穴位(双侧心俞、肾俞穴、膻中)贴敷辅助治疗“心肾阳虚型”左心室射血分数降低的心衰,以期提高疗效,缩短病程,减少副作用,为难以口服中药治疗的患
随着城市化进程的加快,公民对城市公共服务的水平和质量提出越来越高的要求。垃圾废物处理厂、废水处理中心、火葬场和变电站、无线电基站、大型运输项目等城市发展中必不可少的公共基础设施,在可以满足日益增长的公共服务需求的同时,也会给居住在设施附近的居民带来一定的负面效应。部分民众对地方政府在自家附近建设邻避设施表示不满,会联合起来通过集体行动来推动迁址,在此过程之中可能会引发不同程度的群体性冲突,“邻避冲
新中国成立后头三年,习仲勋主持西北地区党政军工作。他和中共中央西北局、西北军政委员会其他领导人一起,带领西北各族人民,为建立和巩固新生的人民民主政权,恢复西北地区国
前列腺炎是中青年男性常见的一种生殖系统综合症。按照NIH新的分类标准,将慢性前列腺炎分为急性细菌性前列腺炎、慢性细菌性前列腺炎、慢性前列腺炎/慢性骨盆疼痛综合征及无
会议
"一套规范化的案件管理模板和文书,有效优化了我们基层案件管理工作中程序繁复的问题"吕梁孝义市纪委监委案管室负责人靳晓燕感慨地说,"加强规范化建设,极大地提高了工作效率