面向人工神经网络计算核的加速优化及自动生成技术研究

来源 :国防科学技术大学 | 被引量 : 0次 | 上传用户:connie1234
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
人工神经网络算法的研究在经过了几年的低潮后,由于近年来深度学习模型在计算机视觉、语音识别领域取得显著成果,再度受到学术界和工业界的广泛关注。而随着人工神经网络算法模型的增长,计算复杂度越来越高,只能依赖大规模计算平台来完成模型的训练,训练速度的瓶颈和功耗问题限制了人工神经网络算法在现实生活中的应用和推广。基于应用对嵌入式平台的强大需求,人工神经网络算法在FPGA平台上的硬件加速引发研究热点。本文围绕面向人工神经网络计算核的加速优化及自动生成技术展开研究。首先通过分析典型算法ELM、AlexNet的结构特征,挖掘人工神经网络算法的计算核心。其次对ELM、AlexNet进行首次定点化评估,表明定点化处理方法在人工神经网络算法中的可行性,有助于算法加速器中对存储与计算资源的合理使用,并提出针对任意算法进行定点化处理的完整评估流程和精度分析模型。更重要的,本文针对算法的计算核心进行加速优化:(1)基于传统的卷积加速实现进行存储优化,实现布局布线性能更优、扩展性更好的卷积加速器;(2)针对大规模矩阵乘法运算,从存储组织、资源平衡、计算模式设计等方面进行优化,采用分块矩阵乘的方式实现性能更优矩阵加速器;(3)采用分段近似函数方法,并转换乘运算为更简单的移位操作,实现资源占有量更少的S igmoid复杂函数加速器。最后本文研究加速器自动生成技术,提出用户参数空间搜索算法,实现加速器对算法网络模型变化更强的适应性。
其他文献
随着互联网技术的发展和互联网用户规模不断扩张,中国的电子商务,即B2C行业不断迎来发展机遇。同时,B2C市场与线下实体不再是相互对立、割裂的关系,越来越多的企业开始注重线上销售与线下服务的结合,走向业务多元化的道路。业务多元化,是指企业不再单纯的某项业务为支柱,开始有意识或已经成功发展了其他业务,例如京东除了开辟网上商城外,还打开了物流市场,业务也由此被划分为净产品业务与净服务业务。苏宁的物流服务
进入新世纪以来,国家和教育部门对音乐教学工作越来越重视,音乐教师的教学技能和自身专业技能不断在提高,“唱歌课”作为音乐课中的重要课型,在小学音乐课程评价、学生综合素质体现、艺术素质测评中占有重要地位;唱歌教学的课堂模式不断在更新,教学方法不断在改进,教学内容随着教材的改进越来越丰富多样化。本文通过对乌鲁木齐市六所小学的唱歌课堂进行听课调研、问卷访谈、对比分析得出乌鲁木齐市小学音乐唱歌教学在不同的课
乡村学校作为村落中重要的文化资源,承载着传承和建设农村文化的使命。学校布局的调整对于学校文化的堡垒作用提出了挑战。学校在布局调整中要趋利避害,形成自己的特色,恢复
集合覆盖问题不仅仅是运筹学研究中经典的组合优化问题,也是计算机科学问题中的一个常见问题。作为其扩展问题的集合K覆盖问题,在原问题的基础上,增加了更多的约束,同样也增
信息技术是影响未来教育的重要因素,是实现教育现代化的关键。如果将教育现代化看做整个社会的神经系统,那么信息技术则是神经中枢,信息化教学是血液系统,教师信息化教学能力则是血液循环的助推器。2018年4月13日,教育部颁布了《“教育信息化2.0”行动计划》,进一步推动高职院校教育模式向智能化、个性化、现代化方向发展。高职教师要积极主动顺应时代的潮流,开拓信息化教学能力,提升教师专业素养。现阶段,高职教
作业是学生进行相关知识的课堂学习后进行复习的必要工具,作业的设计好坏很大程度上决定了学生在课后复习过程中对于所学知识的复习效果。数学作业能够让学生在进行数学知识
基于视觉的地标检测与跟踪是无人机实现安全着陆、落点准确的重要基础。相比于传统方法,基于视觉的地标检测与跟踪技术具有适应性强、误差小、无电子干扰等优势。论文针对通
经济增长一直是经济学领域研究的热点问题,要素投入配置及产业结构调整与经济增长问题密不可分。现阶段,我国正处于经济转型、深化供给侧改革,优化资源配置时期,经济增速也一直处于放缓状态,受此影响贵州省经济发展方式也在发生变动,经济增速也处于放缓状态。贵州地区作为我国经济的区域组成部分,其经济增长及经济发展一直不仅对于改善贵州民生有重要意义也对于我国整体经济发展转变及经济增长有助推和一定的影响。结合我国宏
模数转换器(ADC)是沟通数字信号和模拟信号的枢纽中心,在无线通信、雷达探测等领域扮演着至关重要的角色。ADC具有多种结构,流水线型ADC凭借其能同时兼顾速度和精度的特点得
非婚同居,自古有之,长期受到社会的抑制、道德的责难和法律的禁止,但是随着经济、文化的发展,思想观念、生活方式的转变、人口流动的加速,从20世纪60年代开始,西方国家对非婚同居的态度陆续从禁止、限制逐渐转变为承认、保护甚至开始立法规范非婚同居现象。我国自20世纪90年代开始,非婚同居现象日渐增长,非婚同居者既有活力四射的年轻人又有满头银发的老年人,从繁华的城镇到偏远的农村,非婚同居已成为一种新型的家