随着互联网和信息技术的迅速发展,人们已经步入大数据时代,如何自动有效地对这些大数据进行分析处理是一件非常有价值且亟待解决的事情。图像标注技术就是一个具有挑战性的跨领域数据处理问题,它旨在自动地用准确且流利的自然语言来描述出图像的具体内容:它不仅需要识别输入图像中的显著物体,而且还需要使用人类语言来表达准确的信息。图像标注技术弥合了计算机视觉和自然语言处理这两个领域之间的鸿沟,可用于许多实际应用中,例如帮助视觉障碍者和人机交互等。通常来说,图像标注模型大多遵循一种“编码器-解码器”的架构:即首先将给定图像通过基于卷积神经网络编码为一系列中间结果向量并将其存储下来,随后利用基于循环神经网络架构的解码器进行逐字的解码,最终生成完整的描述性标注句子。近年来,随着注意力机制在自然语言处理领域中大放异彩,基于自注意力机制的Transformer模型也被引入图像标注领域,并且取得了不俗的效果。但是,现有的这些方法通常都忽略了图像中不同物体间固有的几何关系,因此会受限于相对位置的盲目性;同时,由于Transformer天然地将句子中的单词看做“词袋”,丧失了不同单词之间的相对位置关系。针对以上问题,本文在当前注意力机制上做了研究与改进,探究了位置信息对于图像及句子两方面的作用,主要研究工作如下:（1）注意力机制:探究了引入不同注意力机制之后对于图像标注的实际影响。传统的单层前馈神经网络结构简单,参数较少,并且效果一般;然而,自注意力机制可以看作是一种从单个查询到一系列键值对的映射关系,它首先计算当前查询与一系列键之间的相似性,然后基于此相似性权重得到一系列值的加权和,从而得到更精细的表达。（2）物体几何位置注意力:当前自注意力机制单纯地忽略了物体之间的几何位置信息,导致在生成句子时不知道当前物体与其他物体的位置关系。针对这一问题,提出了几何自注意力修正模块,显式地在传统自注意力机制中注入了几何位置信息。这样一来,每个物体不仅编码了自身的信息,还包含了与图像中其他任一物体的几何相关性。（3）单词相对位置注意力:Transformer特征提取器的解码端将句子单词看做词袋模型,丧失了单词的相对位置关系。针对这一问题,我们提出了位置LSTM模块。LSTM天然地以一种序列的方式逐字解析并生成句子单词,内在地就解决了句子相对位置编码的问题;同时,LSTM在每个时刻的隐状态还保存了当前时刻前所有已生成的单词,因此使得解码器能更好地专注于生成还未解析的那部分单词。