基于结构剪枝的DNN压缩算法设计与验证

来源 :东南大学 | 被引量 : 0次 | 上传用户:y412327391
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
作为人工智能发展的热门研究方向,深度卷积神经网络已经在目标识别、语音分割等领域被广泛应用,并取得了举世瞩目的成就。但其自身巨大的参数量和计算量限制了深度卷积神经网络在移动终端设备等小型硬件平台上的进一步部署。因此,在保证模型精度的前提下,设计高效的DNN(Deep Neural Network)压缩算法实现参数量和计算量大幅度缩减有着重要的实用价值。本文设计了一种基于结构剪枝的DNN压缩算法,使得在网络精度受影响极小的前提下,大幅降低了网络模型的参数量和计算量。该算法通过将分组结构剪枝算法与幂指数量化算法相结合,充分利用了二者结合后带来的网络稀疏性结构和数据归类整合能力;通过设计分组超参数group和量化位宽b分别控制剪枝和量化算法带来的压缩率,以适应不同的硬件部署需求;通过对深度神经网络进行敏感度分析和分组策略研究来确定网络层压缩的先后顺序,以降低网络模型在压缩过程中产生的精度损失。本文基于结构剪枝的DNN压缩算法在单分支和多分支网络上分别进行了测试;在Image Net数据集上运行单分支网络Alex Net错误率仅上升0.95%和在CIFAR10数据集上运行VGG16错误率仅上升了0.52%的情况下,网络参数量达到了11倍压缩,而计算量则下降了75%;在Image Net数据集上运行多分支网络Res Net50错误率上升3.09%的情况下,参数量压缩达到15倍,计算量下降了72.6%。同时由于压缩后的稀疏性模型参数均由0和2的幂组成的离散数据构成,使得其在硬件中部署时可以使用移位器代替传统的乘法器进行乘累加等操作,从而进一步降低网络模型在硬件上部署时的计算资源消耗。本文基于VGG16网络在CIFAR10数据集上的压缩设计了相应的FPGA验证系统并在Zynq XC7Z100芯片上编写控制代码,在时钟频率为150MHz的情况下,功耗仅为2.55W,完成了对本文算法的验证。
其他文献
现代公共法律服务体系的建构兼具法律和政治双重属性,是一个涵盖了相关法律法规、方针政策、参与主体、供给渠道、实施办法、获取平台、评价标准、反馈机制等的完整链条和统一整体。公共法律服务对于推进依法治国战略布局,建设法治国家、法治政府、法治社会,促进政府治理和社会治理现代化,满足人民群众法律服务需要具有十分重要的意义,其源于政府对公民负有的法律和政治责任,承担着保障公民权益、实现社会正义的使命,理应成为
建立科学合理的网球运动员竞技能力评价模型,系统而准确的评估运动员的竞技能力,可以有效的利用运动员现有的比赛数据,更好的解读与分析运动员在一站比赛中的竞技表现,为运动员之后的训练和比赛提供更合理的指导。本研究以网球比赛中运动员的技术得分能力为切入点,通过录像观察法、专家访谈法、逻辑回归等分析方法,对优秀男子网球运动员的技术能力进行研究,建立了优秀男子网球运动员技术得分能力的评价模型,主要结论如下:1
执行难问题一直以来都是法院执行工作中需要攻克的难题之一,其中涉及人身伤害的刑事附带民事案件在执行程序中“执行不能”的情况尤为严重,当法院生效判决所确立的债权或赔偿金无法得到实现时,这类案件的受害人或其近亲属的处境会更为艰难,甚至连基本的生存问题都无法保障。为了更好的解决“执行难”问题,2017年宁波市中级人民法院在最高人民法院的指示下率先展开了执行救助保险制度的试点任务。目前,执行救助保险制度还处
创造性人格是促进和保证创造性发展的较为稳固且统合的人格特质,在生活中起着不可忽视的作用。气质是个体较为明显而稳定的特质,但并非固定不变的,气质的可变性可能成为干预学业和生活的重要因素。高中阶段学生心理和生理已基本接近于成年人,但该阶段学生学业压力繁重,他们极需要家长和学校的关系和理解。了解高中生气质和创造性人格的之间的关系,对培养高中生创造性教育和创造力的发展有重要的意义。以往研究大多关注于对儿童
随着《关于审理行政协议案件若干问题的规定》(法释[2019]17号,以下简称《行政协议解释》)的发布,民事法律规范在行政协议纠纷案件中的准用界限被进一步放开,合同领域的情势变更原则为行政协议案件所适用,具有法律基础,但《行政协议解释》第27条第2款“可以参照适用”的规范仍过于泛化,难以为法官具体案件裁量提供明确的指引;司法实践中也频繁出现过分强调行政机关一方的优势地位,忽视了私人一方的信赖利益的情
车联网(Vehicle to Everything,V2X)作为物联网在交通系统中的一种重要表现形式,涵盖了车辆与车辆(Vehicle to Vehicle,V2V),车辆与行人(Vehicle to Pedestrian,V2P),车辆与基础设施(Vehicle to Infrastructure,V2I)等类型的通信。其中V2V与V2I是解决交通安全问题的关键技术。因此,本文将重点围绕着关于V
背景和目的众所周知,我国是糖尿病患者人口最多的国家,发病率逐年升高。糖化血红蛋白(Glycated Hemoglobin,Hb A1c)是衡量血糖控制的金标准,空腹血糖(Fasting Blood Glucose,FBG)也是筛查糖尿病的指标之一,且既往研究表明我国糖代谢指标达标率普遍较低。糖尿病自我管理支持(Diabetes Self-Management Support,DSMS)对糖尿病患者
预应力混凝土空心板梁在中小型桥梁中应用广泛,但近年来发现存在端部受剪开裂的病害,影响了桥梁的正常使用,并且缺少能够真正实现加固效果的加固手段。本文针对这一问题,重点围绕了空心板梁端部注浆加固方法,以足尺梁试验为基础,结合理论计算、有限元模拟等多种手段,从混凝土空心板梁剪切破坏机理、端部斜裂缝病害评估以及最为关键的有效加固手段三方面出发展开研究,构建具有针对性和实用性的评价和处理体系,主要内容包括以
随着西部大开发进程的不断加速,西部地区的基础设施建设急需得到提升。而西部地区多山,地形地貌复杂,因此在其上修建构筑物的设计要点与东部地区有很大不同,斜陡坡上的桩基础设计是其中亟需研究的一块。桩基础是在山区修建高架桥时广泛采用的基础形式,目前关于平地桩基础的相关研究已经进行得比较深入,但斜陡坡段桩基础的分析与设计方法仍然需要进一步的研究。因此,本文基于已有研究,结合理论分析、数值模拟以及现场工程实例
高中历史课程标准修订后,明确将培养和提高历史学科素养作为课程教学目标。大部分学校与时俱进,顺势而为,在推进课堂教学改革工作上下足功夫,把提高课堂效率和培养学生学习能力作为改革的重中之重。高中历史学科是高考考查科目之一,主要通过试题方式考查学生历史时空观念、史料解读、问题探究等方面的能力,这就对教师在历史课堂上培养学生历史核心素养和探究能力提出了更高的要求。但是仍有部分历史教师对于课堂教学方法缺乏一