文本摘要生成是自然语言处理领域的子任务之一,主要是根据原始文本,生成该段文本的摘要。目前传统做法是使用序列到序列模型将文本转换为摘要,这种方法生成的摘要不能十分贴合语义,并且生成的摘要不连贯。而通过使用深度学习进行预训练的方法可以获得更加贴合原文思想、也更加连贯的摘要。一般使用BERT（Bidirectional Encoder Representations from Transformers）模型进行预训练然后使用序列到序列模型生成摘要,但是其存在两阶段输入不一致的问题,并且存在对文本语义理解能力不足的问题,此外生成的摘要仍然不够贴合人类书写习惯。本文研究基于深度学习的文本摘要生成模型系统及其实现,首先在预训练阶段使用XLNET模型以克服使用BERT模型存在的缺点。本文进一步对在XLNET预训练模型的基础上对生成摘要方法进行改进,解决生成文本摘要仍然会存在未登录词和重复词问题,并且语义理解可以进一步提升。本文的主要研究内容和成果如下:1)将XLNET应用于文本摘要生成任务中进行文本摘要生成。现在的主流摘要生成方法是使用BERT进行预训练,而本文的XLNET与BERT不同,在输入阶段并不对文本进行排列组合,而是在微调阶段进行。它在Transformer内部通过attention mask矩阵实现,即通过双流注意力机制得到不同的组合与排列。这种做法可以让模型训练充分融合上下文特征,克服了 BERT模型在预训练阶段的带有掩码标志致使两阶段过程输入不一致的问题。2)设计新的模型FP-XLNET,此模型基于XLNET,首先使用TF-IDF（Term Frequency-Inverse Document Frequency）算法来提取文本中重要词汇,然后使用XLNET分别获得原文本与重要词汇的词向量,之后通过一层Attention得到词向量的注意力分布,而后使用指针网络生成最终摘要。此算法相比于传统算法,除了具有XLNET自身的优点外,使用TF-IDF提取核心词能够使得摘要更加贴合文本内容,并且较好的解决了未登录词和重复词问题。相较于传统算法,实验结果表明,验证本文模型ROUGE分数更高。3)根据FP-XLNET算法设计并实现了文本摘要生成系统。研究了文本摘要生成系统中各模块的技术选型,最终利用前后端技术搭建了一个文本摘要生成系统。针对一般字符串数据库ID查找效率低以及存储空间大的问题,本文数据库ID部分使用雪花算法减少了空间占用,加快了 ID查找速度。