一种基于类脉动阵列架构的堆栈式自编码算法的硬件实现

来源 :南京大学 | 被引量 : 0次 | 上传用户:tudeyu
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
人工智能作为一门前沿交叉学科,其形成和发展已经有了数十年的历史,机器学习作为人工智能最重要的分支之一,也越来得到了学术界和工业界的重视和发展。深度学习是机器学习的重要组成部分,在模式识别、图片压缩、信息检索等领域发挥着越来越重要的作用。而深度神经网络作为其中关键的算法支撑,其复杂度与日俱增,算力已经成为制约人工智能发展的重要因素。使用可重构计算对神经网络进行硬件加速,能够支持多种神经网络完成训练及推理运算,已成为当下解决算力不足问题的重要方式之一。本论文围绕神经网络中一种以自编码器为基础的堆栈式自编码(Stacked AutoEncoder,SAE)算法展开研究,包括算法的推理、训练过程,阐述了该算法的优势以及应用场景。结合可重构计算以及堆栈式自编码算法,本文完成了如下三方面工作:第一,探究了 SAE算法的SIMD架构和类脉动阵列架构模型两种设计方案,并采用SystemC语言建立周期精确系统模型仿真。通过对两种不同架构的建模结果比较,得出结论:在单样本或是多样本同时推理的情况下,类脉动阵列架构的加速效果都明显优于SIMD架构。第二,采用可重构类脉动阵列,阵列中含有32×32个机器学习处理单元(Machine Learning Unit,MLU),每个处理单元中可重构出计数、加法、乘法、乘累加、累加五种计算方式,可以支持卷积神经网络(Convolutional Neural Networks,CNN)、长短期记忆网络(Long Short-Term Memory,LSTM)、SAE 等人工智能算法。第三,采用类脉动阵列架构完成SAE算法的硬件实现。设计完成了数据存储模块、控制模块、地址生成模块、数据划分模块、存储控制模块。在类脉动阵列作为硬件架构的基础上,可以同时实现算法推理的流水运算,单个样本的多路并行计算以及多样本的同步计算。此外,通过乒乓操作可以实现部分计算时间和访存时间的掩盖。基于Xillinx公司UltraScale XCVU440开发板验证了硬件实现功能正确性。通过与参考文献[56]中的计算结果对比,在所耗资源更少的情况下,本论文的实现方案推理运算速度提升至少3倍。此外,本论文提出的SAE设计方案还具有良好的可扩展、可裁剪性,对同类型算法的硬件加速设计有较好的参考价值和指导意义。
其他文献
DNA电化学生物传感器广泛应用于基因组学、环境监测、药物筛选、食品分析等领域,尤以生物医药和生物领域发展迅速,具有广阔的临床应用前景。这些生物传感器的信号来源一般有生物酶、仿生酶的催化、外加小分子和直接式信号。本论文将电化学活性分子标记的DNA作为直接式信号,结合滚环扩增制备多核DNA walkers用于信号放大,实现高特异性、高灵敏的目标基因检测。同时基于直接式信号的无试剂DNA电化学传感器,利
学位
学位
随着我国社会和经济的发展,人民日益增长的医疗服务需求与现有医疗资源短缺的矛盾日益突出,国家在此局面下推进了分级诊疗制度、大力引导社会办医等一系列措施,促进了民营医院的发展。由于我国是以公立医疗为主、民营医疗为辅的国家,民营医院自出现以来就担任着补充医疗资源供给的角色,在国家一系列政策的引导下蓬勃发展,与公立医院并驱前行,共同满足了人民群众多样化的医疗服务需求,已成为我国医疗卫生服务体系中不可或缺的
医保基金不但是群众的“救命钱”,更是群众“病有所医”最根本的保障。医保基金的安全管理对于参保人、经办机构以及国家的良性运行与协调发展都具有重要意义。随着社会保障事业的发展,医保基金积累持续增加,管理上面临着巨大挑战。因为医保基金经办各环节出现:医保基金内部控制环境薄弱、医保基金业务经办风险评估体系不完善、医保基金内部控制活动不规范、医保基金内部控制信息与沟通机制不健全、医保基金内部控制监管不到位等
学位
近年来,我国经济发展进入新时代,由高速增长阶段转向高质量发展阶段,各产业结构持续进行优化调整。在这种发展形势下,金融资本参与资本市场的方式也越来越灵活。前些年,我国的私募基金主要依靠其投资的公司进行IPO而获取收益。但对于大部分中国企业来说能成功上市的难度非常大,基金的盈利能力也随之受到影响。随着国内并购市场的蓬勃发展以及相关监管制度的逐步健全,以并购基金为核心的资本运作逐渐产生,并且在我国的并购
学位
由于全球经济一体化以及信息化程度的不断提高,企业规模迅速扩张,越来越多分布广泛的大型集团公司因此形成。传统财务管理中的问题也凸现出来,例如:财务成本无法降低、财务人员过多、业务处理效率低等问题,财务共享服务中心的产生解决了传统财务管理的种种问题。随着中国经济的高速发展,中国的大型集团公司面临同样的财务管理问题。2011年至今,财政部、国务院国有资产监督委员会曾经多次提出并鼓励分支机构较多、分布广泛
学位