【摘 要】
:
传统的ELM优化算法关注的焦点都在隐含层输出权重上面,忽视了隐含层输入与输出的分布方式,针对这一容易令人忽视的方向,本文提出了基于高斯分布优化仿射参数的极限学习机模型,具体研究内容如下:针对让隐含层输出强制服从均匀分布效果不佳的问题,提出了在高斯分布下优化仿射变换的极限学习机(Extreme Learning Machine for Optimized Affine Transformation
论文部分内容阅读
传统的ELM优化算法关注的焦点都在隐含层输出权重上面,忽视了隐含层输入与输出的分布方式,针对这一容易令人忽视的方向,本文提出了基于高斯分布优化仿射参数的极限学习机模型,具体研究内容如下:针对让隐含层输出强制服从均匀分布效果不佳的问题,提出了在高斯分布下优化仿射变换的极限学习机(Extreme Learning Machine for Optimized Affine Transformation Based on Gaussian Distribution,GAT-ELM)模型。模型中引入服从高斯分布的仿射参数,利用梯度下降算法(Gradient descent algorithm)进行寻优,让隐含层输入数据服从高斯分布,通过Sigmoid激活函数映射得到的隐含层输出数据同样服从高斯分布。模型采用RELM(regularized ELM)算法中LOO(leave one out)交叉验证策略,引入SVD(Singular Value Decomposition)算法,计算出隐含层输出权重。该模型具有良好的泛化性能,提高了模型鲁棒性。利用6种图像数据集和12种UCI数据集,划分成小中大三种样本量,进行全方位系统性实验,充分表明了所提出的模型对实际应用具有良好的泛化能力与稳定性。针对样本量大复杂度高的数据集一般ELM模型对其泛化能力较差的问题,提出了带有仿射参数的多核极限学习机(Multiple Kernel Extreme Learning Machine With Affine Transformation,ATMK-ELM)模型。模型中在多核极限学习机(Multiple Kernel extreme learning machine,MK-ELM)的基础上引入仿射参数,并利用梯度下降算法进行寻优,让样本数据服从高斯分布,消除了离群点。模型采用AT-ELM(Affine Transformation ELM)算法中对隐含层输入数据进行线性映射的方法来让原始数据服从高斯分布,对优化后的数据进行多核学习,不需要显示地定义特征空间和映射函数,在比较复杂的分类和回归等数据集中,用核映射代替随机映射,改善了隐含层节点随机赋值带来的泛化性能和稳定性差的情况,实验结果表明,在复杂样本量大的数据集中,ATMK-ELM算法对比ELM、RELM、MK-ELM、GAT-ELM表现优异。
其他文献
微流控技术(Microfluidics)是由多门学科交叉的先进研究领域之一。该技术通过将医学、生物和化学等领域中所包括的取样、混合、反应、样品分离、检测等基本实验操作集成至厘米级的芯片上,从某种程度上取代了传统的生化检测实验室的功能。所以,微流控传感系统在生物检测、药物筛选、污染物监测等领域都具有巨大的应用前景。近年来,食品安全事故频发,临床反应严重,食品安全问题已经成为现代社会关注的热点。目前常
湿度(Humidity)是一个重要的环境参数,在人类日常生活、生产活动中扮演了重要的角色。目前使用最广泛的高分子电容式湿度传感器凭借其测试量程宽、线性度高、响应时间短、长期稳定性好等优点受到了研发人员的广泛关注。但是,随着湿度传感器应用领域的扩展,人们对湿度传感器的各项特性指标提出了更高的要求,基于常规聚酰亚胺(Polyimide,PI)感湿材料的电容式湿度传感器因其高稳定性和高线性度成为了主流,
随着国家“新基建”概念的提出,电梯的智能化改造也逐步升温。作为连接互联和控制层的核心设备,网关不再满足于基本的数据采集和转发,而将其视为电梯物联网的重要计算节点。通过智能算法的研究和应用,能够使网关实现物联网微数据中心的作用,更有效地保证电梯稳定安全运行。本文以电梯物联网网关为研究对象,针对电梯网关的协议适配问题,异常数据帧检测问题,以及电梯曳引机轴承数据挖掘问题,展开智能方法研究。主要研究和创新
实际工程应用中,由于生产需要、工况变化或紧急的突发状况,系统包含着多种工作模式,既有随时间的状态连续演化,又有受离散时间驱动的多模态跳变,这些不同的工作模式之间根据一定的转移规律发生跳变,此类系统被称为随机跳变系统。跳变转移概率刻画了模态之间的随机转换规律,因此成为研究这类系统的关键因素。转移概率完全已知情况下的随机跳变系统的研究已经形成了完整的理论体系,但转移概率完全已知不符合工程实际,这使得随
无线传感器网络的作用是对目标场景数据进行详细地监控与传输,其工作地点大多为室外的恶劣环境;特殊环境使无线传感器网络采用随机部署的方式更为广泛,但随机部署会使初始覆盖效能低下,继而引发信道冲突、能耗激增等问题。为解决此类问题,无线传感器网络覆盖研究的重点是通过改变节点位置或感知范围等属性对网络覆盖质量及完整性进行优化。为适配复杂恶劣的工作环境,满足网络多样化应用,通常使用泛在的异质网络包容节点硬件规
梅干菜是一种常见的传统发酵蔬菜制品,选用常见芥菜使菜叶晾干、堆黄,然后经过加盐腌制和干燥等步骤加工而成,不仅富含维生素、氨基酸和膳食纤维等营养元素,而且因其独特的风味长期作为食品辅料存在。梅干菜属于干态腌菜,其制作过程复杂且需要在室外长时间曝晒和堆黄,并且在后期的运输、贮存、加工和成包等过程中,会混入各种外界杂质,严重影响了梅干菜成品的食品品质,因此有必要采用一种具有快速检测特点的检测技术来检测梅
湿度传感器广泛应用于社会生产和日常生活的诸多领域,对湿度传感器各项性能参数包括灵敏度、精确度、湿滞和线性度等提出了更高的要求。微波检测相比传统电阻、电容类检测方案具有高分辨率、多衍生参数、低功耗等优点,有望进一步提升湿度检测特性。对微波湿度检测进行研究也将为微波材料特性检测提供重要的理论依据和参考。本文对微波检测技术理论和实现过程展开了详细论述。通过分析不同类型谐振器的设计原理和响应特性,开展了基
随着时代的更迭,科技的发展,振动传感系统理论不断完善。基于高灵敏度、高精度、高集成度,高稳定性等方面的新型振动传感系统正在不断地被研究制作出来。近几年来,基于光纤的振动传感系统进入了高速发展时期,由于其简单的结构,优秀的抗干扰能力和较低的成本,已广泛应用于海洋、陆地、航空、工业,医学等领域。现有的基于光纤振动传感系统的振动信号解调技术,其关键在于对振动信号引起的光信号波长或相位变化的分析,具有较高
在一个机器学习任务中,特征选择是样本预测的关键一步,而在面对复杂的未知领域时,我们很难判断特征与预测目标或者特征与特征之间的关联性,所以在建立一个神经网络时,常常采用随机生成的方式来初始化神经网络的参数,然后再通过一系列的算法来完成特征的选择和高维映射。有效的特征选择可以降低输入特征的维度,还可以防止过拟合,提高模型泛化能力和可解释性,加快模型的训练速度,合适的特征映射还可以提高模型的预测性能。本
随着人机交互领域的不断扩张,人类赖以生存的物质世界与数字世界的边界愈发模糊,这导致了现实世界中真实物体的感受缺失。感受的过程是人与世界建立生命联系的过程,如何让人们重新关注现实世界中的直接感受成为当下之思。在众多数字化产物中,互动装置真实可感的实体界面,给予观众真切体验,但其相关研究多集中于技术应用和艺术观念层面,缺乏对实体界面及体验者自身的关注。体验者的亲历性决定了实体界面与“身体”相互蕴涵的交