模糊神经网络与支持向量机若干问题研究

来源 :重庆大学 | 被引量 : 0次 | 上传用户:zhenlijinping
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
神经网络(Neural Network,NN)和支持向量机(Support Vector Machine,SVM)是当前机器学习的重要的研究领域,是智能信息处理和机器学习研究领域的重要组成部分,在模式识别和回归估计领域得到广泛的应用。目前,国内外学者对神经网络、统计学习理论及支持向量机方法的讨论和研究非常活跃。在神经网络、支持向量机的理论研究以及融入模糊逻辑的智能信息处理方法的研究发展很快。但是,在理论方法以及实际应用中还存在许多有待研究的新问题,如异常数据检测、提高学习速度、提升推广性能、模型选择、增强学习过程的健壮性等。   本文在前人研究成果及前期工作基础上,对模糊反向传播(Fuzzy BackPropagation,FBP)学习算法、大规模训练样本集的ε-支持向量回归(ε-SupportVector Regression,ε-SVR)方法、支持向量回归中异常数据剔除方法以及基于后验概率加权隶属度的模糊支持向量机(Fuzzy Support Vector Machine,FSVM)等若干问题进行了较系统的研究,旨在丰富和发展模糊神经网络和支持向量机的理论和应用研究。主要成果如下:   (1)证明了基于极大-极小模糊算子与S.Stoeva提出的基于神经元输入指标集幂集的模糊神经网络正向计算过程的等价性,进而研究了基于极大-极小模糊算子的网络权值修正方法,提出了改进的FBP学习算法。该算法通过每个神经元的输出与相应输入权值的比较进行权值修正,克服了一般的FBP在权值修正上仅依据网络输出与所有连接权值进行比较的不足,使权值修正更加精确,网络学习更加稳定。通过在汽轮发电机组状态监测中的应用表明提出的算法是有效的。   (2)为克服已有搜索算法在求解ε-SVR时存在选择样本开销大、效率不高以及收敛约束检测代价大的缺陷,研究了ε-SVR支持向量分布的特性。根据分布特性确定潜在支持向量区域以缩减搜索样本规模,进而提出了大规模训练样本集的ε-SVR改进逐步搜索算法。即从大规模训练样本集中抽取的小样本集的ε-SVR超平面出发,计算大训练样本集中样本点距这个近似的超平面的距离d,剔除大训练样本集中在ε≤d≤dmax外的训练样本点,然后逐步搜索支持向量,建立大训练样本集的ε-SVR。在对ε-SVR改进搜索算法的有效性分析中,发现ε-SVR的解稀疏性对算法时间复杂度有较大的影响。为了确保算法有效性,将支持向量稀疏过程引入搜索算法,以较低的精度损失代价换取算法的高效,进一步提出了大规模训练样本集的ε-SVR稀疏搜索算法。   利用给定已知函数生成样本数据进行仿真实验,结果表明本文所提ε-SVR改进逐步搜索算法和ε-SVR稀疏搜索算法用SMO或Matlab工具箱求解ε-SVR的速度比改进前要快3.9倍,并且随ε的值和样本数增加算法计算效率增高。因此,研究获得的新的ε-SVR算法可用于解决大规模样本回归问题。   (3)在研究回归问题中理论映射模式与回归估计模式两者关系的基础上,定义了回归问题中异常数据及其不满足回归映射关系差异程度的度量,给出并证明了回归问题中异常数据的若干性质,进而提出回归问题中剔除异常数据的逐步逼近定理。然后,提出了以逐步逼近定理为理论依据支持向量回归中异常数据的剔除算法,并在理论上分析了其收敛性和有效性。   针对大规模样本的支持向量回归中异常数据剔除问题,引入逐步搜索算法对支持向量回归中异常数据的剔除算法进行改进,提出了基于大规模样本集的支持向量回归异常数据剔除算法。理论分析显示改进算法也是收敛的和有效的。   利用给定已知函数生成样本和UCI机器学习数据库样本数据进行仿真实验,结果显示有较高的异常数据剔除精度,提高了最终SVR模型精度。   (4)为减小异常点及噪声数据对分类超平面的影响,研究了模糊支持向量机中样本隶属度函数的构造方法。借鉴贝叶斯决策理论和样本密度的思想,依据不同性质样本点在样本集中的相对位置分布,引入样本点的后验概率和样本点密度,提出了基于后验概率加权的隶属度函数构造方法,进而构建基于后验概率加权隶属度的FSVM。   利用双螺旋线和UCI机器学习数据库数据进行仿真实验,结果显示提出的后验概率加权隶属度的FSVM具有较好的数据分类性能。   最后,对全文研究工作进行了总结,对模糊神经网络和支持向量机学习算法的进一步研究和应用进行了展望。  
其他文献
在无线电能传输系统中,松耦合系统虽然距离较短,但是具有高效率、大功率、和较低辐射等特点而获得应用,本文讨论了松耦合无线电能传输在便携式设备充电器上的应用。论文首先介绍了常用电池的种类、使用特点和充电方法,然后给出一般松耦合系统的电路结构和各种铁芯结构的磁场分布,根据反射阻抗的概念,详细讨论了各种电路补偿方式和铁芯结构对电路性能影响,接着具体分析了半桥电容串联谐振变换电路的具体波形和传输效率。但是由
随着通信技术、网络理论和计算机技术的高速发展,系统与控制科学领域的研究对象已经从单一的动态系统发展为多个相互耦合的子系统,其中比较典型的是多智能体系统的协同控制。
随着社会经济及体育事业的发展,体育建筑快速发展,呈现出多元、综合、复杂的趋势。体育场馆作为一个人员聚集的场所,其一旦发生紧急事件,若疏散不及时就会出现人员的拥挤踩踏
社会谣言和消极偏激的舆论如果不能及时被制止,就会对人们生活环境和秩序产生深远的影响。所以,当这样对社会有消极影响的舆论出现时,需要做出正确的引导方向,让舆论朝着正确
硬件在环仿真技术以实物取代数学模型,与实际情况接近、且成本低,是未来仿真技术的发展的重要方向。LabVIEW是一种功能强大的图形化编程软件,与传统的编程软件相比,开发效率
随着信息技术的发展,航迹规划技术被广泛地应用在各类导航系统中,如无人机、机器人等等,在现代突防系统中起到至关重要的作用。因此提高规划系统的安全性、精确性和多样性是
随着能源危机和环境危机的愈演愈烈,风能作为一种可再生的清洁能源,是解决这两大难题的重要途径,对此,世界各国普遍重视并竞相大力发展风电。随着风力发电机组容量的不断增大,怎样提高机组运行效率、最大程度地利用风能已经成为风力发电领域研究的重点,其中变速恒频风力发电技术更是成为这其中的热点问题。风力发电系统是一个复杂的能量转换过程,重点是双馈发电机的控制,因为它连接了前一部分与后一部分的机能转换,是风力发
随着工业发展和人民生活水平的提高,电力供应日趋紧张,如何充分利用电力能源,降低电能损耗是电力行业的一个重要课题。钢铁行业的用电量占总电量的10%左右,因此降低钢铁企业电
输电线路覆冰是供电系统经常遇到的灾害形式,及时探测输电线路上覆冰情况并采取相应除冰措施,可以将灾害引起的损失降到最低。因此研制可靠及时在线覆冰探测系统尤为重要,目前国内外的探测方法一般采用基于力学模型和图像法,具有一定的局限性,本文根据光纤传感器的特点,提出基于光纤传感器的覆冰探测系统。本文介绍了影响输电线路覆冰的气象条件,形成的基本原理以及覆冰的厚度预测模型,提出了基于模拟导线的光纤覆冰探测的方
当今社会中,团队形成问题受到越来越多的学者的关注。在团队形成问题中,团队领导者的目的是组织团队成员形成团队,共同合作完成团队任务和目标。目前的团队形成问题研究主要关注于团队成员属性的研究和团队成员选择和匹配问题的研究。这些研究都希望从团队利益方面出发解决团队形成的问题,虽然能够很好的满足团队的利益,但依然存在缺点,即忽略了团队候选成员的意愿表达.实际上,团队候选成员在团队形成过程中有自己的利益需求