高校迎新工作内容来自不同部门,发布的信息渠道也多种多样,比如不仅有入学流程、助学贷款政策、学业教育、生活指南等文件,还有一些具体的生活指南、学校规范,它们也可以来自于校园网、互联网、邮箱、微信、即时通讯、论坛等各类众筹问答信息,这些信息来源多样、零碎、离散,其中一些信息还存在着专业性差、准确性低、数据零散、冗余度大、噪声多等问题。因此,传统问答系统常采用面向关键词模型或者简单的深度模型,轻视领域知识和语义识别技术,造成问答系统体验性差。为此,论文引入了高校知识图谱技术,以此增强问答过程中可靠性;同时,针对高校迎新问答系统相比较于开放领域的问答系统而言,其样本数据偏少、标注成本高、深度模型在小样本数据量情况下,所面临的训练难、效果差的问题,论文引入深度学习方法,预训练语言模型,最终使模型训练速度加快而且效果良好。综上,论文针对高校迎新应用场景,基于高校知识图谱,结合深度学习方法和自然语言处理手段,从以下方面,完成论文的研究内容:构建基于双流自注意力多有向图的命名实体识别模型。针对传统命名实体识别方法在中文环境中无法兼顾语义消歧和有效提取文本序列特征的问题,提出基于双流自注意力多有向图的命名实体识别模型。该模型首先在通用语料数据集上进行预训练,再通过模型迁移和参数共享,在少样本高校迎新问答数据集上进行精调。在文本嵌入阶段,将语料数据构成图形式,进一步丰富和优化相关实体字典,再利用改进的图神经网络,结合设计好的实体词典,对语料数据进行嵌入,从而有效降低中文分词的误差。在特征提取阶段,提出一种基于动态加权融合的双流自注意力机制,利用特征贡献值,以增强模型的语义识别能力。在模型输出阶段,将提取好的特征输入标准分类器,预估全局最优结果。通过上述工作,可有效、准确地抽出用户问句中与高校迎新业务关联性较强的实体,为下一步工作做好铺垫。提出融合多头自注意力机制的中文短文本分类模型。针对问答模型在问答过程中的中文短文本知识利用不足与中文短文本本身的语义模糊、特征稀疏等问题,论文构建融合多头自注意力机制的中文短文本分类模型:首先,借助预训练语言模型,利用动态文本表示方法,以提高语言模型的语义识别能力;然后,再通过迁移的多头自注意力机制,学习文本序列全局范围内的词依赖关系;最后,为进一步提高模型对问答语句文本局部特征的提取能力,通过增加卷积神经网络,得到能在不同粒度层面提取特征的中文短文本分类模型,以获取带有不同语义的高阶表示,从而增强对问答应用场景中的中文短文本问句的分类能力。开发高校迎新问答系统。首先,利用软件工程技术,提供系统结构;其次,构建高校迎新业务的知识图谱;然后,将上述研究成果通过深度学习框架与可进行人机对话的实体机器人优必选Yanshee等已有的成熟技术和产品,利用系统集成方法融入软件,开发完成论文的线上问答系统;最后,系统是测试,并应用了可视化技术,测试显示系统达到了较好的应用效果。