语义匹配技术备受关注,成为了当前自然语言处理技术应用领域热点话题之一,在问答系统以及信息检索等领域拥有着广泛的应用场景。目前,最热门的语义匹配模型为基于BERT的微调模型,但是大多数基于BERT模型的语义匹配技术由于采用统一注意力机制,对于句式复杂的文本语义信息抽取不够充分,导致对句子语义的理解存在偏差;同时,BERT模型规模庞大,计算量着实惊人,仅仅单个样本计算一次的开销动辄上百毫秒,在严格的延迟约束下达不到要求,很难应用到实际生产中。因此,针对以上所描述的缺陷,本文提出了两种不同的基于BERT微调模型的语义匹配模型。本文主要研究内容如下:1.针对BERT微调模型采用统一注意力机制未能充分考虑句子结构信息的问题,本文提出了一种基于Tree-LSTM结构的多种注意力机制语义匹配模型。该模型由三层结构组成:BERT模型、Tree-LSTM结构以及多种注意力机制。其中,BERT模型将输入文本转换为特征向量,为后续工作做好准备;Tree-LSTM结构将BERT模型输出的特征向量映射到树状结构上,并分布在树的各个孩子节点上;多种注意力机制将Tree-LSTM结构中的每个孩子节点赋予不一样的权值,使句向量的不同成分得到不一样的关注。最后,将本文模型应用于句子语义相似度计算环节,通过句子对的语义特征向量表示计算出句子对之间的语义相似度值。实验表明,在金融领域数据集上,本文模型比传统语义匹配模型的准确率更高。2.针对BERT模型过于庞大,导致做语义匹配任务时太消耗时间资源的情况,本文提出了一种基于孪生网络的多种注意力机制语义匹配模型。该模型由三种算法组合而成:BERT中文预训练模型、孪生网络和基于Bi-LSTM的多种注意力机制。在该模型中,首先通过BERT预训练模型分别获取两个输入句子的向量信息,并采取池化操作对句向量进行降维;然后通过基于Bi-LSTM的多种注意力机制对句向量的不同成分给予不同的关注,使句子结构信息更加清晰;最后使用孪生网络导出有意义且定长的句向量,并使用余弦相似度方法计算出句子对之间的语义相似度,再根据相似度分值选择最相似的一对句子。通过实验验证,在金融领域数据集上,本文模型的语义匹配速度更快。3.本文基于以上研究的两种语义匹配模型实现了智能问答系统。该系统通过可视化界面与用户交互,实现自动对用户所提问题进行回复,达到实际应用目的。