单分类支持向量机的学习方法研究

被引量 : 0次 | 上传用户:deboywang126
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
支持向量机(Support Vector Machine, SVM)是在统计学习理论基础上发展起来的新型机器学习算法。SVM采用结构风险最小化原则,同时最小化经验风险和置信范围,具有拟合精度高、选择参数少、推广能力强和全局最优等优势。SVM为解决小样本、高维数及非线性等问题提供了有效工具,已成为机器学习领域中研究热点之一并得到了广泛应用。SVM是针对二分类问题提出的,需要两种类别的样本作为训练样本。在实际应用中,有些领域几乎无法获取两类的样本或者代价极高,如敌我识别、攻击样本、卫星故障等,只能获取一个类别的样本,故只能利用这一类样本进行学习,形成数据描述从而实现分类,故出现了单分类算法。支持向量数据描述(Support Vector Data Description, SVDD)和一类支持向量机(one-class support vector machine, OCSVM)是SVM算法扩展成的单分类算法。在相同的高斯核函数作用下,两种算法完全等价,合称之为单分类支持向量机(1-SVM).“工欲善其事,必先利其器”。要使1-SVM能更好地应用于实际工程问题,首先需要解决1-SVM的训练或学习问题,其过程实际上是求解一个二次规划(OP)问题。本文以提高1-SVM的学习能力为目标,分别对1-SVM的粒子群优化学习、快速学习以及增量学习三个方面进行了研究,并提出了相应的解决方案,主要工作如下:提出将粒子群优化算法(PSO)的一种扩展算法——线性粒子群优化算法(LPSO)应用到1-SVM的学习上。为了解决粒子飞行到群体最优位置容易陷入停滞状态而过早收敛的问题,采用改变群体最优粒子飞行方式的策略,使群体最优粒子与其他粒子按照不同的方式飞行,改善了LPSO算法的收敛性能,并将此方法应用到LPSO学习1-SVM的过程中。LPSO为解决1-SVM的学习问题提供了新思路。针对1-SVM的大规模样本集的学习问题,受启发于随机取样算法在凸二次规划问题的成功应用,提出了一种基于随机取样算法的快速学习方法。随机选取大规模样本集的两个样本子,依据随机取样引理和推导出的随机结合定理,对两个子集自身的支持向量(极值点,extreme)和相互间违背KKT条件的样本(外点,violator)进行融合,最后学习出两个子集共同的新决策边界。以此类推,直到全部样本抽取和融合完毕。此方法将大规模样本分批抽取为小样本集并对每一个小样本集进行1-SVM学习,降低了1-SVM学习的内存空间和计算时间,是一种有效的快速学习方法。为了实现1-SVM的增量学习过程,分析了一类支持向量机(OCSVM)的几何表示特性,提出了一种基于德尔塔函数的增量学习方法。因为OCSVM的几何结构仅仅有一个分类超平面,在其分类超平面的决策函数上添加一个德尔塔函数能够形成新的决策函数,即一个新的分类超平面。根据新增样本求解德尔塔函数就是OCSVM的增量学习过程。受OCSVM二次规划问题的启发,分析得到德尔塔函数的优化问题同样是二次规划问题,并提出利用修正的序贯最小优化(SMO)算法进行求解。简要介绍了车牌识别系统的组成部分;分析了高清车牌识别的特点,并为车牌定位、字符分割和字符识别等核心技术提出了相应方案;将一对多的1-SVM多分类方法应用到字符识别,并利用提出的增量学习方法提高1-SVM的识别能力。最后,通过C++编程环境实现了识别过程,结果表明成功实现了高清车牌识别系统。
其他文献
自20世纪70年代末我国实行改革开放以来,我国旅游经济活动就一直处于持续快速发展的良好态势。随着旅游经济活动的快速发展,旅游业在国民经济中的地位也日益提高,成为了我国国民
:通过历史考察,作者认为,扩张与朝觐所体现的乡土情结、荣誉与简洁所折射的安拉激情、世俗与经商所蕴含的入世态度、忠诚与争斗所反映出来的部落意识、坚韧与冒险所表现的沙
中国省域经济综合竞争力指标体系庞大,指标种类繁多,特性各异,只有选择不同的预测模型,才能提高预测的精确度。文章通过大量实验方法来选择和构建省域经济综合竞争力指标预测
炼钢连铸二冷水水质问题引起喷嘴堵塞,造成铸坯表面裂纹。以昆钢三炼钢板坯连铸机二冷水喷嘴堵塞现状为例,从水处理工艺、水源、水质及运行管理等方面进行分析,找出二冷水喷
王羲之是魏晋“新体”书法的代表性人物,而《十七帖》又是其草书代表作,因此《十七帖》在草书史上有着典范性的意义。首先,从书体创新角度讲,它的出现完善了与章草相对的、新
本文讨论了光电系统总体技术的概念、性能与参数指标、所包含的主要环节和关键技术,阐述了研究方法,并用实例做了说明
<正> 我们首先肯定日本皇家园林是中国山水园的一个分支。然而,日本的皇家却因权杖尽失帝位受窘,于是,在园林的表现技法上出现了与中国皇家园林不同的内容。这些技法实现的结
伴随着全球经济一体化,激烈的市场竞争和复杂多变的经营环境向企业发出了严峻的挑战。越来越多的企业开始认识到改善管理的重要性。这些企业借助于有效的管理手段来帮助其自身
八门湾地区既是农业产区又是生态旅游建设区,保护好这一地区的生态资源,制定可持续发展的长效机制就显得尤为关键。采取先进、高效的评价方法开展深入的生态评价研究,建立长
20世纪90年代以来,转型社会多元利益需求引发的社会矛盾受到关注,律师在诉讼中承担的社会责任引起重视。伴随政府、市场职能分化的变迁,律师职业群体结构也发生了微细变迁:律师在