基于改进遮盖策略的BERT实现文本摘要

来源 :电子设计工程 | 被引量 : 0次 | 上传用户:ayczswh
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
任务是自然语言处理中一个重要的学科。基于提高在中文数据集上生成的文本摘要效果的目的,该文通过调整数据预处理阶段的分词方式和生成词向量的方式,以及改变在BERT预训练阶段MLM任务中的Mask策略,在LCSTS数据集上,进行抽取式文本摘要生成的实验。实验结果表明,在同一中文数据集上,改进模型生成的文本摘要的评价指标Rouge_F相较于原始BERT模型提高了10%~17%。对数据进行中文分词预处理和在BERT中采取动态的Mask策略能够提高中文文本摘要的效果。
其他文献
以2013—2020年473家公司所发行的815支公司债券为研究样本,本文实证检验了股权特征对于债券信用评级的影响,研究发现:1.股权集中度与债券信用评级呈正相关关系;2.股权制衡度与债券信用评级呈负相关关系;3.由于预算软约束的存在,国有企业比非国有企业更容易获得高评级。
<正>债券市场是资本市场的重要组成部分,是社会资金融通的重要途径之一。党的十九届五中全会提出,“十四五”期间产权制度改革和要素市场化配置改革要取得重大进展。2020年,《中共中央国务院关于构建更加完善的要素市场化配置体制机制的意见》提出完善股票市场基础制度;加快发展债券市场;健全多层次资本市场体系,增加有效金融服务供给等一系列推进资本要素市场化配置的改革部署。今年3月份,
期刊
铂基金属催化剂在许多重要的液相加氢化学转化中起着至关重要的作用,研究尺寸、晶型及形貌可控的催化剂以制备铂利用率高及活性好的催化剂具有重要意义。本文系统地介绍了铂基金属催化剂最新的研究进展,包括不同铂基金属纳米催化剂的合成方法、还原剂的种类、以及影响铂基催化剂性能的重要因素(包括粒子粒径、形貌、组成、载体)对催化活性和选择性的影响。铂基催化材料催化效率高但价格昂贵,进一步探索铂基催化剂对加氢反应机理
<正>“建立中小学校党组织领导的校长负责制,重在加强党对教育工作的全面领导,我们要在局党组提出的‘办有温度的教育,打造有灵魂的学校,培养有情怀的校长教师,培育有德才的学生,赢得有希望的未来’的办学实践中,确保教育教学各项工作始终沿着正确的政治方向高质量发展。”高台县教育局党组书记、教育党工委书记、局长单国成在局党组会议研究推进建立高台县中小学校党组织领导的校长负责制时强调。立足顶层设计,高台县各级
期刊
<正>党的十九大以来,人民银行坚决贯彻落实党中央、国务院关于征信体系建设的重大决策部署,着力完善诚信建设长效机制,健全覆盖全社会的征信体系,提高征信服务质量,保障信息主体权益,推动我国征信业高质量发展。一、坚持“政府+市场”双轮驱动征信发展人民银行坚持“政府+市场”双轮驱动发展模式,逐步构建金融信用信息基础数据库(以下简称央行征信系统)和市场化征信机构协同发展、互相补充的发展格局。(一)央行征信系
期刊
<正>永平县水泄彝族乡中心完小大胆破题,探索实施中小学校党组织领导的校长负责制,实行党组织书记、校长“一肩挑”,将党的领导、党的建设贯穿办学治校、教书育人全过程,形成“一强两促”模式,开创了党建与教育教学两手抓、两促进、两提高的良好局面。
期刊
消费作为市场经济中的一项重要活动,是人类社会永恒的话题,也是伴随着每个人生活的一种持续的行为。在新冠疫情日趋常态化的“后疫情时代”经历了社会生活方式方方面面的改变之后,大学生的行为对其进行了适应性地改变。本项目聚焦于大学生饮食结构的变化,面对具有挑战性的后疫情时代,从多种不同的变量来研究影响大学生饮食结构的核心因素,以探究疫情前后大学生的饮食习惯与生活方式的变化,并给予正确引导。
基于施工企业的视角,分别从施工企业常见的4种表外融资类型、行业现状等问题出发,针对企业项目出表情况,从市场环境、绩效指标考核、人员风险意识、项目亏损、信息交流5个方面进行深层次剖析,最终从内部与外部2个角度提出营造投融资环境、重视项目监控、增强风险意识、提升人员素质、从源头筛选项目等建议,希望对项目出表问题的解决带来一定的参考和借鉴价值。
本文利用2007—2019年A股上市公司数据,从直接和间接两方面,检验了中债资信的加入对“发行人付费”模式评级的得分和定价的影响。研究发现,直接效果上,中债资信的加入并未明显影响发行人付费机构给公司的评级得分,表明声誉机制在债券评级市场中并未发挥明显效果;间接效果上,中债资信评级显著影响了发行人付费模式评级的定价功能,起到了交叉认证的作用。在发行人付费模式评级一定的情况下,新增的中债资信评级对信用