忆阻神经网络:器件与算法的协同设计

来源 :华中科技大学 | 被引量 : 0次 | 上传用户:kerrytony
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
基于非易失存储器的存内计算技术是后摩尔时代突破传统冯·诺依曼计算瓶颈的重要途径之一。忆阻器作为新兴非易失存储器之一,在操作速度、功耗、擦写次数、集成度等方面都具有优势。忆阻阵列中基于欧姆定律和基尔霍夫定律的并行乘法累加运算完美适用于加速各类矩阵计算密集型算法,如神经网络的训练和推断过程,从而克服传统硬件神经网络解决方案面临的计算算力和能效瓶颈。本论文主要针对忆阻神经网络的关键问题,通过材料掺杂改性、操作方法创新等手段提升器件模拟性能,解决神经网络算法映射、仿真平台构建等难题,软硬件协同攻关,系统开展忆阻硬件神经网络研究。主要的研究成果如下:(1)从材料改性角度,利用Li+离子与O2-离子的双离子效应设计制备了LiSiOx忆阻突触器件,得到长时程与短时程特性共存现象,结合拟合分析进行了机理建模,并实现了丰富的突触可塑性行为表达:基于长时程特性,利用Li+离子在电场下的自由迁移对整体电导行为的调控,获得了100阶的连续电导调控行为,作为应用于神经网络训练更新的基本特性需求;基于短时程特性,利用器件高阻态的易失行为,获得了类似生物突触的双脉冲易化行为。(2)基于LiSiOx器件特性研究,搭建了忆阻多层感知机仿真平台,提出了“内层循环”的算法优化方法。以MNIST手写体识别为网络任务,代入LiSiOx忆阻器的理想拟合模型实现了91.97%的识别率,引入器件非理想因素时仍可达88.36%,证明了多层感知机对忆阻器固有非理想因素的高容忍度。进一步地,通过对比展现了LiSiOx器件性能的优越性,并通过仿真分析了忆阻器的电导精度、电导状态随机扰动以及曲线非线性度等对网络性能的影响。(3)在单器件研究基础上,面向硬件实现的阵列集成需求,以成熟的1T1R忆阻器为研究对象,设计了晶体管栅压限制调控的操作方法,利用栅极电压限流作用控制脉冲操作下阻态调控的精确性,在1T1R器件中实现了多种电导调控行为:高精度且对称的121阶电导渐变调控行为、稳定且可区分的量化多值特性、以及脉冲时序依赖可塑性行为,分别是忆阻器应用于高精度的神经网络训练场景、低精度的神经网络推断平台、以及脉冲神经网络的基本特性需求。(4)在简单忆阻多层感知机的研究基础上,仿真构建了更复杂的基于1T1R阵列的卷积神经网络平台,引入了“权值范围截断”的优化设计,详细介绍了卷积神经网络在1T1R阵列上的映射方案和操作方法。一方面,基于实测1T1R忆阻器的高精度电导渐变调控行为,代入四层卷积神经网络在MNIST手写字体识别任务中识别率达92.79%,并详细讨论了器件的非理想因素,包括电导精度、曲线非线性度和对称性、循环间及器件间误差、电导动态范围、阵列中的器件失效率以及网络输入噪声等。另一方面,基于实测1T1R忆阻器的量化多值特性,实现了低精度的量化LeNet-5卷积网络,并在在线学习和离线学习两种方式下对手写字体识别分别达到了91.03%和98%的识别率,为忆阻硬件神经网络应用于资源受限的智能边缘计算平台提供了有效方案。
其他文献
面对日益复杂的电磁干扰环境,单一雷达对抗干扰越来越困难,组网雷达协同抗干扰可以提高整个系统的综合抗干扰能力,也是今后体系对抗的主要样式,因此,协同探测、协同对抗成了现阶段雷达领域的研究热点。针对这一背景需求,本文重点研究了基于数据融合的协同抗干扰技术和基于Unity3D、RTX和反射内存技术的仿真平台设计与实现。本文主要工作和创新点如下:1.完成了雷达回波信号的数学建模。针对常用的线性调频脉冲照射
第一部分:人卵巢癌类器官培养体系的建立目的:通过调节培养条件筛选适宜的培养方案,构建人卵巢癌3D类器官和人卵巢癌气液类器官,并在组织学和基因组学层面上进行验证。方法:在2018年4月份至2019年8月份,于湖北省武汉市华中科技大学同济医学院附属同济医院妇产科收集手术切除的卵巢癌组织和新鲜血液,进行培养条件的摸索,并成功构建卵巢癌3D类器官和卵巢癌气液类器官。通过调节IGF1、HGF、Heregul
农林废弃物类生物质具有氧含量高、水含量高、热值低、吸湿性强、体积密度低等缺点,如果将其作为能源资源使用,需先对其进行脱氧提质预处理之后才能实现高效热转化。烘焙是一种条件温和且操作简单的预处理技术,烘焙后生物质的燃料品质得到改善,更适用于后续的热化学转化。但因为传统烘焙的温度(200-300℃)条件较温和,对生物质的脱氧能力有一定局限,因此需对传统烘焙方法进行优化改良。团队通过前期研究提出了一种利用
有机太阳能电池有着易于溶液加工,机械性能好,带隙可调等优势,有着广泛的应用前景。近些年来,非富勒烯小分子受体的发展使得有机太阳能电池的效率进一步提升。近期,有机太阳能电池的光电转换效率已经突破18%。但是,目前文献中报道的高效率有机太阳能电池都是采用旋涂法制备活性层和真空蒸镀法制备金属电极,面积通常小于0.1 cm~2,这种制备方式难以和大规模生产方式(如卷对卷印刷)相兼容。全溶液法制备由于其低成
为评估“十二五”以来国家重点生态功能区转移支付政策的阶段性实施效果,以水源涵养类型国家重点生态功能区为对象,基于水量平衡法,利用2011年和2019年土地覆被数据,并结合气象数据,分析了水源涵养型国家重点生态功能区2011年和2019年水源涵养功能、生态系统面积、生态系统质量状况及其变化情况。研究结果表明,自2011年转移支付政策实施以来:1)全国水源涵养型重点生态功能区内的水源涵养能力呈现从西北
背景:脑梗塞的有效治疗手段匮乏。免疫炎症反应在脑梗塞病理过程中扮演重要角色,而作为一种中枢神经系统固有免疫细胞,小胶质细胞广泛参与其中。2型髓系细胞触发受体(Triggering receptor expressed on myeloid cells 2,TREM2)主要表达于小胶质细胞,对小胶质细胞功能影响广泛。但其在脑梗塞中如何影响小胶质细胞,相关研究较少。目的:评估小鼠脑梗塞模型中,TREM
基于AlNi薄箔自蔓延反应的热源(self-propagating heat source,SPHS)具有温度高、升降温速率高和热量集中的特点。通过该热源能在毫秒级时间内完成焊料的熔化和凝固结晶,实现互连;减小封装结构整体加热时热失配、热敏感材料/元件的损伤问题,因而受到业内重视。由于焊料互连热过程为高度非稳态,通常所采用的平衡相图无法用于解释这种高度非平衡条件下的组织形成过程,互连接头性能也随着
当前我国地方政府债务风险总体可控,但地区间债务负担和债务风险的显著差异令人担忧。在债务风险的考量下,从我国当前地方政府债务配置的低效率出发,基于制度从根本上决定了资源配置的方式,因而在地方政府债务赖以存在的制度层面,对我国地方政府债务配置的影响因素及机制进行研究显得顺理成章。本文在总体上构建了一个制度分析框架,沿着制度演进的“均衡——非均衡——均衡”路径,研究不同制度环境下地方政府债务配置的影响因
微波光子学是一门融合微波域技术与光域技术的交叉学科,通过在光域实现信号产生、传输和处理等功能,可以在带宽、损耗、体积、重量、调谐性、重构性等多方面提升微波系统性能,是突破“电子瓶颈”困境的有力手段。微波光子滤波器作为微波光子学的一个重要研究分支,在通信、传感、军事和安全等领域拥有广泛的应用。随着第五代移动通信(5G)技术的发展、万物互联时代的到来,在诸如光纤无线接入网等新兴应用场景中,微波光子学面
二十世纪九十年代以来数次局部现代战争充分证明,传统的火力和装甲防护之间的对抗已经延伸到先进探测技术和隐身技术之间的对抗。通过隐身技术降低武器装备被发现的概率,增强其生存能力成为现代军事技术核心突破所在。作为隐身技术重要的分支,现代战争对雷达隐身技术提出了更高的要求。大量研究表明,通过外形设计和雷达吸波材料的使用已较好地抑制了主要散射源,但表面波传输至次要散射源导致的非镜面散射则成为了雷达隐身技术中