用于图文检索的跨模态信息交互推理网络

来源 :计算机工程与应用 | 被引量 : 0次 | 上传用户:yy13720
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
针对跨模态检索任务中图像与文本模态的语义特征复杂度不一致问题,提出了一种局部细粒度对齐与全局特征推理相结合的图文匹配方法。首先将图像和文本特征输入自适应交叉注意网络,该网络在交叉注意机制内设置门控单元,利用文本(图像)模态中的相关语义特征,自适应地引导图像(文本)模态的交叉注意。突出关键的局部对齐特征的同时及时高效地过滤掉冗余的交互信息,从而实现更精准的细粒度对齐。然后利用自适应交叉注意网络输出的包含文本(图像)引导信息的特征,在全局推理网络中逐步合成图像(文本)全局对齐特征。不仅利用这些特征之间的长短期记忆关系灵活地将细粒度对齐特征融合为全局特征,并且在迭代更新当前全局特征时能够根据跨模态交互信息加深对整体潜在语义信息的理解。最后采用交叉熵损失函数训练整个模型。提出的模型在公开数据集MS COCO和Flickr 30k上进行一系列实验,利用Recall@K指标对比实验结果,证明该模型优于目前的先进模型。
其他文献
家具作为一种日常用品,在人们的日常生活和工作中必不可少。随着生活水平的提高,人们更加倾向于购买质地坚实、经久耐用以及有着优良视觉特性的实木家具。然而,木材品种繁多,价格相差悬殊,这就使得在实木家具市场上经常出现以假乱真、以次充好的现象,严重损坏了消费者的合法权益。而涂饰木蜡油之后的家具木材,会对木材表面的材色、光泽度以及粗糙度造成不同程度的影响,这也增加了消费者对木材材种的识别难度。传统的木材种类
石油化工企业脱盐水用水量大,出于节水的考虑,需要将浓水进行回收处理,为了防止回收处理的浓缩过程结垢,保证浓水反渗透正常运行,在一项石化企业的脱盐水处理项目上,采用结晶造粒流化床技术对反渗透浓盐水进行化学除硬预处理,处理后的浓盐水硬度约为200 mg/L,收到了良好的应用效果。
1林业情况墨西哥位于西径8°~117°,北纬14°~33°之间,国土面积为19725万km2。国土60%为山地,40%为丘陵和平地。国土面积的60%为干燥或半干燥气候,其余40%为温带和热带气候。植物种类丰富多样。植物生态系统所覆盖的面积为13865...
期刊
选取影响朱鹮生境适宜性的9个环境因子,基于层次分析法(AHP)构建生境适宜指数(HSI)模型,结合地理探测器,分析陕西省洋县朱鹮生境适宜性程度及主要影响因子。结果表明:1)洋县朱鹮生境适宜性整体处于中等偏高水平;2)洋县境内朱鹮生境适宜区和较适宜区空间分布连贯性较差,空间分异特征明显,呈现东、南、北高,中间和西低的格局;3)单因子中,对朱鹮生境适宜性空间分异特征解释力较强的主要因子由大到小依次为距
采用问卷调查法研究中职生的社会适应能力、父母心理控制和自我控制的现状及相互关系,重点探究了自我控制作为中介变量在父母心理控制和社会适应能力之间的中介效应。研究发现,父母心理控制与中职生社会适应能力呈显著负相关,自我控制与社会适应能力存在显著正相关,父母心理控制通过自我控制影响中职生的社会适应能力。在研究影响中职生社会适应能力机制的基础上,提出三方面的心理教育策略:一是发挥父母教育的支持作用,积极运
深圳市轨道交通16号线盾构须穿越既有建筑物的岩溶地区,为有效保护建筑物安全,必须遵循盾构下穿过程中的沉降规律,采用全过程分阶段风险控制措施,严格控制盾构掘进参数以及注浆加固参数,实时监测地表沉降。监测结果表明,盾构下穿既有建筑物的最大沉降为14.20 mm,地表最大沉降为23.19 mm,均符合相关规划要求。实践证明,为确保盾构施工过程中下穿条形基础建筑的施工安全,可通过调整盾构机总推力、刀盘扭矩
以核心企业主导型众创空间为研究对象,基于演化博弈方法建立运营方与入驻企业的合作创新博弈模型,首先分析双方的收益与成本参数的变化对演化稳定策略的影响,随后引入双重奖惩机制并用数值仿真方法分析博弈结果。研究结果表明:众创空间运营方与入驻企业合作创新主要受到创新总成本、运营方监管成本、成本分担比例、额外收益与额外收益分配等因素的影响;引入奖惩机制后,保证金、损失、罚金与奖励金均正向影响博弈双方的合作创新
图像拥有丰富的颜色不仅能清晰地表达一个事物的特征,也能方便人们进行信息交流,对灰度图像进行彩色化不仅是一个热门的研究课题,而且具有一定的挑战性与现实意义,其研究成果也在各行各业得到了广泛应用。本文针对当前彩色化算法中存在彩色化时间较长和颜色误扩散问题,利用深度学习方法对图像彩色化进行了研究,具体工作与成果如下:(1)研究了基于神经网络与Reinhard算法的图像快速彩色化方法。首先,利用LBP特征
短视频凭借其短、平、快和去中心化运营的特点,一跃成为最受欢迎的移动互联网应用之一。移动短视频平台连接了内容消费者和内容生产者两边用户,且两边用户可以互换角色,呈现较强的同边网络外部性和跨边网络外部性,两边用户和平台在交互中发生价值创造并扮演着不同的角色。文章从双边市场理论视角,基于文献研究和案例分析方法对短视频平台用户价值共创行为机理进行分析,探寻了影响协同价值的外部机制和内涵要素,对构建协同价值
期刊