论文部分内容阅读
深度学习的神经网络相较于传统神经网络方法显著的特点是计算量大,因此迫切需要计算系统具备更高的性能、更低的功耗来运行深度神经网络,本文的研究目标在于设计基于忆阻交叉阵列的深度神经网络电路,达到速度和能效的大幅提升,通过该电路实现图像语义分割、文本情感分析任务。
本文将忆阻交叉阵列和深度学习中应用广泛的全卷积神经网络、长短期记忆神经网络结合,设计基于忆阻交叉阵列的深度神经网络,使用忆阻作为神经网络的突触,可降低整个电路系统的能耗和延迟。在实现全卷积神经网络设计过程中,本文利用忆阻交叉阵列实现包括卷积层、最大池化层和反卷积层三种重要神经网络层,然后将这些网络层通过辅助电路连通整合为完整的忆阻全卷积神经网络电路,并将设计的电路应用到图像语义分割;长短期记忆神经网络设计中,本文利用忆阻交叉阵列实现特征提取层和外部分类层电路,再通过辅助电路连接为完整的忆阻长短期记忆神经网络电路,通过将文本转为对应的词向量,再转换为对应的电压输入电路,再经过忆阻长短期记忆网络电路输出文本情感分析的电平,从而实现端到端的文本情感分析。
本文的研究成果主要是研究实现了忆阻深度神经网络,重点设计了忆阻全卷积神经网络和忆阻长短期记忆神经网络,能够实现基于电路的深度神经网络的前向推理,以及实现端到端图像语义分割、文本情感分析功能。本文设计的基于忆阻交叉阵列的神经网络层,忆阻器存储神经元的值同时也参与运算处理,能够达到速度的大幅提升,并且主要层的设计方案可以推广到很多其他深度神经网络的电路实现中,未来有助于忆阻器应用于人工智能芯片中。
本文将忆阻交叉阵列和深度学习中应用广泛的全卷积神经网络、长短期记忆神经网络结合,设计基于忆阻交叉阵列的深度神经网络,使用忆阻作为神经网络的突触,可降低整个电路系统的能耗和延迟。在实现全卷积神经网络设计过程中,本文利用忆阻交叉阵列实现包括卷积层、最大池化层和反卷积层三种重要神经网络层,然后将这些网络层通过辅助电路连通整合为完整的忆阻全卷积神经网络电路,并将设计的电路应用到图像语义分割;长短期记忆神经网络设计中,本文利用忆阻交叉阵列实现特征提取层和外部分类层电路,再通过辅助电路连接为完整的忆阻长短期记忆神经网络电路,通过将文本转为对应的词向量,再转换为对应的电压输入电路,再经过忆阻长短期记忆网络电路输出文本情感分析的电平,从而实现端到端的文本情感分析。
本文的研究成果主要是研究实现了忆阻深度神经网络,重点设计了忆阻全卷积神经网络和忆阻长短期记忆神经网络,能够实现基于电路的深度神经网络的前向推理,以及实现端到端图像语义分割、文本情感分析功能。本文设计的基于忆阻交叉阵列的神经网络层,忆阻器存储神经元的值同时也参与运算处理,能够达到速度的大幅提升,并且主要层的设计方案可以推广到很多其他深度神经网络的电路实现中,未来有助于忆阻器应用于人工智能芯片中。