【摘 要】
:
回响状态网络(echo state network,ESN)是一种典型的储备池计算(reservoir computing,RC)模型,它将低维的输入信号映射到一个高维的状态空间,再通过简单的线性回归学习算法将
论文部分内容阅读
回响状态网络(echo state network,ESN)是一种典型的储备池计算(reservoir computing,RC)模型,它将低维的输入信号映射到一个高维的状态空间,再通过简单的线性回归学习算法将高维的信息转换为低维信号输出。这个高维状态空间就是储备池,它大大减小了传统人工神经网络的计算复杂度并克服其记忆消减问题。储备池作为关键的处理单元,其输入编码方式直接影响了输出层的读出精度。因此,储备池模型优化一直是该领域的一个严重热点,也出现了许多复杂网络模型。其中,皮质层多簇结构以其丰富的动态特性及其仿生性而备受关注。但网络算法中存在的随机性可能导致网络计算能力存在较大波动,且算法参数难以调节。因而需要对储备池进行进一步优化。另一方面,最新提出的概念机递归神经网络(Conceptor),它仍然采用储备池计算,且其动力学模块具有很好的可扩展性。但目前,其网络结构设计单一,仅采用传统的随机网络,且其节点耦合性较强,计算能力有限。因此,对于Conceptor网络的储备池优化设计也尤为重要。对于ESN,我们提出了两种储备池优化模型:一方面是在皮质层多簇结构的基础上,结合动态学习算法对网络进行结构调整,提出一种基于先验数据导向的多簇储备池,利用先验数据样本离线调整储备池拓扑结构,使其更为适应该类计算任务。通过Mackey-Glass预测实验发现,相较于传统随机网络和皮质层多簇网络,基于先验数据导向的多簇储备池在精度上有明显提高,并且具有更高的结构复杂度和小世界特性。另一方面,在多簇结构的基础上,结合神经元的内部可塑性(intrinsic plasticity,IP)学习机制,提出基于内部可塑性的多簇储备池。分析了两种IP规则对神经元输入响应的影响,并通过NARMA序列预测实验验证其有效性。通过IP学习的多簇储备池突破了建网过程中的随机性所造成的精度瓶颈,大大提高了随机储备池和皮质层多簇储备池的预测精度,且基于李氏IP规则的多簇储备池具有更为突出的精度优势。对于Conceptor网络,通过研究复杂网络结构,提出基于洛伦兹时间序列相空间重构的复杂网络储备池,分析网络结构特性,对比该网络与随机网络、皮质层多簇网络对输入模型的重构能力,实验表明,相空间重构网络对该信号的重构计算具有更小的误差,且在改变载入模型数量的情况下,依然保持其优势。
其他文献
随着汽车工业的发展,汽车电磁阀的应用愈加广泛,对电磁阀质量的要求也越来越高。这样对电磁阀出厂前的检测就显得尤为重要,尤其是一些出口电磁阀的检测,除了需要检测其机械部
随着生产技术的发展和人们合理利用能源意识的提高,原本采用单一原料进行生产的生产线现常需改为多种原料进行配料生产。为满足这样的生产需求,本文设计了基于ARM7内核微控制
随着计算机通信技术的不断发展,网络应用越来越影响到人们的日常生活,工业领域也不例外。因而,为了保证产品的生产质量和安全,提高工作人员的工作效率,对生产现场的设备运行
随着我国自动化技术的飞速发展和装配水平的不断提高,固体火箭发动机的拧紧总装也由传统的人工方式逐渐被自动化装配取代。固体火箭发动机拧紧总装的主要技术指标在于保证装
锂离子电池是储能技术中一项重要技术。而由于锂离子电池的特性,必须以一定数目的电池串联成电池组来使用锂离子电池。而当以电池组形式使用时,由于电池组内部各个电池单体的参数不一,会出现过充现象或者过放现象。该现象的产生,将会严重影响电池组整体性能的发挥以及电池组整体的使用寿命。因而近年来,对于电池均衡系统的研究成为了一个热点。论文针对总线式均衡网络结构的电池均衡系统,展开了对其能量分配问题的算法研究。利
网络控制系统是通过控制网络实现闭环控制的反馈控制系统。它有很多的优点,然而网络的存在会引起时延,还有系统固有的饱和特性,这些都会使系统建模和分析变得复杂。论文在分
电压凹陷指电网供电电压的均方根值在短时间内突然下降的事件。作为最受关注的电能质量问题之一,电压凹陷无论是对工业用户还是对电网本身,都带来了极大的危害:从用户的角度来说
燃料电池是一种将持续供给的燃料和氧化剂中的化学能连续不断地转化成电能的电化学装置。当今国际社会能源紧张,环境污染严重,化石燃料日渐枯竭,油价高涨,寻找新能源作为化石燃料的替代品成为趋势。作为一种清洁能源,燃料电池由于其独特的环保特性成为了人们关注的焦点。然而现阶段它的生产成本还较高,直接影响了其推广。因此扩大规模、实现自动化批量生产、降低其成本便成为其得以推广和发展的关键所在。本文主要研究的内容是
室内场景分类作为场景分类的延伸,在图像/视频检索、移动服务机器人等领域都有广泛的应用,因此逐渐成为计算机视觉领域的研究热点。由于室内场景图像存在非感兴趣区域(ROI,re
近年来,随着人民生活水平的不断提高,社区医疗正在蓬勃发展,老年人等高危人群的保健救护工作已逐渐成为新型的研究课题。为了有效地保障社区居民的生命安全,提高急救工作的成