随着信息化时代的到来,人们越来越依赖互联网获取所需要的信息。互联网上的网络资源如网站、用户评论、新闻、博客、社交媒体网络等是文本数据的巨大来源。互联网和其他档案中的文本内容每天都呈指数级增长,这些文本中有许多重复的或不重要的部分。因此,用户需要花费大量时间来寻找他们需要的信息,对文本资源的总结和浓缩变得更加迫切和重要。利用人工对这些文本资源生成摘要,需要花费大量的人力和时间,甚至是一件不可能完成的任务。自动文本摘要技术是解决这一难题的关键。系统分为生成式与抽取式。在生成式摘要中,研究者使用自然语言生成技术生成源文本的摘要。在这种方法中,人们试图通过识别关键概念来理解原始文档,然后将其转换成另一种语义形式,相当于对原始文本在语义层面的压缩。抽取式摘要是通过抽取文本的重要部分而不修改原始单词和句子来组成摘要,抽取式摘要的核心问题是句子的重要性判断。本文的工作重点是研究抽取式摘要。目前大部分的抽取式文本摘要方法将句子选择过程定义为一个连续的二元标记问题,即从文档的开头依次判断每个句子是否应该被抽取。以往的工作通常通过最小化交叉熵损失,使模型的输出最大限度地接近真实标签。但是目前大部分文本摘要数据集不包含句子级标签,它们只包含文档-摘要对。句子级标签通常是在训练之前通过计算句子与黄金摘要之间的Rouge值得到的,这种方式费时费力,并且获得的标签可能不准确,从而影响最终的性能。针对上述问题,本文对抽取式摘要进行深入研究,主要的的研究内容包括以下三个方面。（1）提出了基于BERT的Text Rank方法。首先使用Bert获取句子向量,然后计算句子相似度建立无向加权图,最后使用Text Rank算法迭代计算句子的分数,取得分最高的N个句子作为摘要。该方法不需要句子级标签,但是实验结果仍有待提升。（2）本文将句子抽取建模为深度强化学习Deep Q-learning问题。首先利用预训练的语言模型BERT作为句子编码器,基于自注意力机制的神经网络transformer作为文档编码器来提取文档特征,生成状态与动作的向量表示。与此同时,DQN（Deep Q-Network）通过Q值近似函数计算句子的Q值,选取Q值最高的N个句子组成摘要。与其它抽取式摘要方法不同,本文的方法基于深度强化学习抽取句子,不需要额外地创建句子级标签。（3）目前的神经文本摘要系统几乎都是基于编码器-解码器结构的。在编码器端,受制于计算复杂度的影响,无论是CNN,RNN还是Transformer都难以处理较长文本。以往的文本摘要方法通常只保留前512个token,后面的token直接丢弃,这无疑会丢失非常多的信息。本文将Longformer应用于文本摘要问题。借助于Longformer强大的对长文档的处理能力,本文可以处理长达4096 tokens的文本,生成更高质量的摘要。