【摘 要】
:
支持向量机(support vector machine, SVM)是数据挖掘中的一项新技术,是借助于最优化方法解决机器学习问题的新工具。支持向量机具有全局最优、结构简单、推广能力强等优点。
论文部分内容阅读
支持向量机(support vector machine, SVM)是数据挖掘中的一项新技术,是借助于最优化方法解决机器学习问题的新工具。支持向量机具有全局最优、结构简单、推广能力强等优点。支持向量机通过引入核函数,简化了高维空间中的内积运算,很好地解决了非线性分类问题。对多数据源或异构数据集,由于单一核在学习过程中存诸多局限性,多核函数的提出成为必要。常用核函数的凸组合是多核函数构造和多核方法学习的重要形式。同训练核参数一样,多核函数中组成核函数的系数也需要优化。本文以一般梯度算法为基础,研究组成核函数的系数的优化方法,主要作了以下一些工作:首先,本文将简单介绍支持向量机的基本理论及其问题模型,探讨核函数的本质,说明核函数与所映射空间之间的关系,进一步分析核函数的构成定理和构成方法。对于多核函数,本文将证明Mercer核的凸组合仍然是Mercer核,并通过数值试验说明常用核函数的凸组合构成的多核函数能够加强决策函数的分类性能,能提高分类机的泛化性能。其次,本文将概述目前优化多核函数中组成核函数系数的一般梯度算法,这些算法简单易行,收敛速度快,但是把最小化几何间隔作为目标函数,犹显粗糙。本文将寻找其它上界作目标函数。利用梯度算法,在超参数空间最小化支持向量机风险上界可以进行超参数的选取。本文把这种思想推广,通过最小化半径-间隔界(Radius Margin Bound简称RM界)训练多核函数中组成核函数的系数。数值实验表明,在优化规划中加入RM界训练出的分类机的性能更高,从而证明了所提算法的有效性。
其他文献
著名的美籍罗马尼亚数学家F.Smarandache教授在他的《Only Problems,Not Solutions!》一书中,他提出了105个关于数论函数和序列的未解决问题和猜想.很多专家学者对此进行了深入
Waring-Goldbach问题旨在研究将满足必要同余条件的正整数N表为素数方幂之和的可能性.著名的哥德巴赫猜想和Vinogradov的三素数定理就是此类问题在线性情况下的个例.解决Wari
在溶液中的带电物体的相互作用关系会因为电解质的存在而受到比较强的影响,目前对这个现象描述的理论中被运用最为广泛的是Poisson-Boltzmann(PB)理论。PB理论在对于平面、曲面附近的离子分布,以及系统整体的合力的判断这些领域都有非常成功的结论。在考虑电双层中的离子结构和输运过程时通常使用Poisson-Nernst-Planck(PNP)方程组来解释。经典的PNP方程与PB理论一样,忽略
原子连续耦合算法受到研究者的关注,由于在材料区域研究中使用单独的原子或连续模型不再能作为适当的方法。原子连续耦合方法使得在原子效应显著的地方研究它们,同时通过在其他
在可靠性理论和生存分析中,单调关联系统扮演着非常重要的角色,如我们熟知的n中取k系统、并联系统等,它们在电力系统,航空航天以及其他相关领域都有着广泛的应用.在独立同分布元
本文主要研究了工件加工时间满足累积恶化/学习效应的两个客户单机排序问题.全文由四章构成: 1.在第一章中,主要简单介绍了组合优化,计算复杂性及排序问题的基本知识,并对相关
动态现象是很难用局部信息来预测的,因为它具有丰富的微观结构和相应的复杂动态,并且计算一个具有几于节点的大型网络的一些随机参数的一个可怕的工作.因此无标度网络的拓扑结构
1974年11月29日,彭德怀元帅在“晚上不得天 亮,白天不得天黑”之中,受尽了残酷迫害和折磨,悲 愤地和他无比热爱的祖国人民永别了!斯人虽云逝, 高风劲节存。有些人说,彭德怀是那场历史悲剧的主 角,或许是吧。然而,“一时强弱在于力,千秋胜负在于 理”(剧作家曹禺语)又何况彭德怀从来就不是一个弱 者。历史是这样的公正无情,而历史又是人民写的。可 不是吗?在“四人帮”被粉碎、“文革”结