慕课是互联网技术与教育行业结合的产物,它为广大学生提供了一种全新的知识学习途径。慕课具有学习资源完全免费、无需固定的课程学习时间和学习场地、可为学生提供与领域权威学者沟通交流的渠道、学生拥有学习课程的选择权利等特点,慕课的教学模式吸引了越来越多的学生和优秀教师参与,它正逐渐成为与课堂教学一样重要的知识传授途径。但伴随着慕课的蓬勃发展,高缀学率、较低的课程完成率等问题也随之出现。应用数据挖掘技术分析学生课程学习的特点,从中找出学生产生辍学行为的规律是解决上述问题的主要方法。本文主要对慕课学生的学习行为预测方法进行研究,本文完成的主要工作包括:（1）对比并分析了不同类型的模型哪种更适用于稀疏及正负样本分布不均的行为预测场景,对于提取得到的学生及课程特征,通过实验比较了哪些特征更为重要。（2）研究并实现了基于机器学习的学生行为预测方法。本文首先实现了一个基于矩阵分解的行为预测方法。为了解决数据稀疏性的问题,本文提出利用机器学习方法进行行为预测,针对不同数据集特性提取用于模型训练的学生行为频次特征向量,并在此基础上实现了基于KNN的行为预测方法、基于Adaboost的行为预测方法以及基于朴素贝叶斯的行为预测方法,进一步提高了预测的准确率。（3）研究并实现了基于集成模型的学生行为预测方法。本文实现了基于梯度渐进回归树模型（GBDT）、逻辑回归模型（LR）、因子分解机模型（FM）的学生行为预测模型,在此基础上实现了三种集成模型,包括梯度渐进回归树模型和逻辑回归模型的集成、梯度渐进回归树模型和因子分解机模型的集成、梯度渐进回归树模型和神经网络模型（NN）的集成。实验表明,融合模式的预测方法可弥补单模式的预测方法的缺陷。为了进一步识别学生的有效行为,本文借鉴Word2Vec思想构建学生行为特征表述序列,进一步提高了学生行为预测的准确率。在多个公开的慕课数据集上的实验结果表明,基于机器学习的行为预测适合于处理稀疏度高的预测问题。同时,集成模型相对于单模型,能够获得更高的预测精确度。