随着信息技术的飞速发展和网络的普及,大量的高维数据在我们日常生活中变得随处可见,成为人们生活的重要组成部分。然而,由于数据维数过高,如何准确且快速的从高维数据中获得对我们有用的信息变得至关重要。而特征选择在对高维数据进行降维处理中有着极其广泛的应用,因此特征选择方法呈现了它巨大的价值,越来越受到人们的关注,对特征选择方法的研究也非常有意义。本文将基于相似性的特征选择方法作为研究对象,首先介绍了特征选择方法的基本概念,并根据数据是否带有标签将特征选择方法分为三类:监督、无监督和半监督。通过介绍五种传统的基于相似性的特征选择方法,发现此类特征选择方法在选择过程中存在一个共同的现象,即会重复选择高度相关的特征。已知冗余特征可能对分类和聚类的性能产生不利地影响,因此应当通过高效的特征选择去除冗余特征以提高学习性能。基于以上提出的问题,我们介绍了有关保留相似性特征选择算法框架SPFS的概念,通过理论分析,展示了所介绍的框架与相似性保持相关的现有特征选择算法之间的联系。在此基础上,基于SPFS框架提出了三个优化算法:SPFSSFS、SPFS-NES和SPFS-LAR,以克服它们在冗余特征方面的缺点。最后,在监督学习和无监督学习环境下比较不同算法的优劣性。实验结果表明,基于SPFS框架的优化算法在分类准确率上提高了7个百分点,在冗余率上降低了16个百分点。实验结果表明该类算法在多种学习任务中有较好的性能。最后,针对只含有少量标签的大量数据,为了更好的将少量标签运用在数据预处理中,我们提出了一种基于属性依赖的半监督特征选择算法,将保留相似性的无监督特征选择算法Laplacian score与成对约束的特征选择算法Constraint score相结合,并在数据重构过程中引入了一个属性依赖矩阵。在成对约束条件下,计算每一维特征之间的平均互信息以及该特征对其他特征互信息的影响,从而得到每一维特征得分的目标函数。同时考虑每个样本点的K近邻局部保持能力对特征选择的影响,并不断优化目标函数。最后根据目标函数计算每一维特征的得分,从而选出最有用、最相关的特征。实验对比结果表明我们提出的半监督特征选择方法具有较高的准确率,并且比监督以及无监督特征选择方法有较低的计算复杂度以及更高的准确率。