聚类分析作为一种无监督的学习方法,是最重要的数据挖掘工具之一,其重要性及与其它方向的交叉特性在数据挖掘、机器学习等各领域中得到广泛应用。聚类分析的目的为通过寻找数据中隐藏的数据结构,将获取的数据按一定的约束和判定准则聚成不同的簇,使得同一簇中数据点间的相似性大,不同簇间的相似性尽可能的小。K均值聚类算法是聚类问题中比较经典的算法,由于其简单易行、效率高、适应性强等特点,在机器学习领域的应用十分广泛。但是,该算法对于处理高维非线性可分数据并不是十分有效。由于现实世界的数据普遍复杂,具有高维性和非线性,因此对高维非线性的聚类算法的优化已经成为目前重要的研究方向和一项极具挑战性的任务。核化K均值算法则是在K均值算法的基础上进行改进的聚类算法,通过把核函数引入聚类算法中,将非线性可分的数据通过核函数映射到高维空间中,提高聚类算法在高维数据上的性能。针对以上问题,本文的研究工作主要对核化K均值算法的性能改进以及将改进的算法在选课原型系统中的选课处理模块中进行应用,具体的工作如下:（1）利用指示矩阵的性质,本文提出了一种核化K均值聚类模型的非凸松弛模型来解决图像和文本数据聚类问题,并分析了该模型与正交非负矩阵分解模型,非负谱聚类模型等之间的关系。（2）为了更好的解决提出的非凸优化模型,设计了一个简单但鲁棒的数值算法。首先将原始矩阵变量分裂为两个变量分别满足正交性和非负性,再使用迭代算法交替投影到Stiefel流形和非负子空间来寻找最优解。（3）大量的实验表明,相比一些现有的方法,本文提出的算法可以高效地对高维非线性数据进行聚类,在人工数据和现实世界的数据上都得到了更高的聚类精度及稳定性。（4）基于论文提出的聚类方法,将改进的核化K均值算法在选课系统的选课处理模块进行应用研究,辅助学生进行课程的选择。