近年来,大规模在线开放课程（Massive Open Online Courses,MOOC）因其在高等教育领域中的灵活性和便捷性而受到广泛的关注,吸引了越来越多的教育者和学习者参与其中。然而正是因为这种灵活性和便捷性使得学习者更加容易辍课,高辍课率问题目前成为MOOC平台面临的一个巨大挑战。在已有的关于辍课预测问题的相关研究中,MOOC的辍课率高于90%。因此提出一种更可靠,更高效的辍课预测模型,对于MOOC平台实现教育活动的早期干预和MOOC平台的发展都非常有必要。在MOOC辍课问题的研究中,早些年研究大都使用传统的机器学习方法,虽然取得了良好的效果,但是这些方法仅仅只是依赖人工特征工程提取的浅层的特征信息,忽略了特征与特征之间的联系。而且人工特征工程的方法提取的特征存在大量噪音数据,影响模型的预测效果。近年来,研究者们利用神经网络自动提取特征,虽然在一定程度上解决了行为特征之间独立的问题,然而却没有考虑到不同的学习行为模式对于辍课的影响程度以及学习行为之间的时序关系,很难保证预测结果的有效性。而且辍课预测中常用的KDDCup2015比赛的数据集存在正负样例分布不平衡的问题,对预测的结果在一定程度上也产生了影响。为了改善现有研究存在的不足,本文利用神经网络和改进的SMOTE算法来提高辍课预测的表现效果。本文的主要内容如下:1.针对现有人工特征工程不能有效地提取学习者学习行为的深层次特征,进而无法全面挖掘学习行为特征之间关系,导致预测结果不理想的问题,提出了一种融合卷积神经网络（Convolutional Neural Networks,CNN）和长短期记忆神经网络（Long Short-Term Memory,LSTM）的辍课预测模型CLNN。该模型先是利用卷积神经网络提取学习者学习行为特征的深层次信息,然后通过长短期记忆神经网络进一步挖掘学习者学习行为之间的时序关系信息,使得预测结果更加准确。通过理论分析和实验结果,证明了该方法与现有的辍课预测方法相比有显著的改进。2.针对学习者不同的学习行为模式对辍课影响程度不同的问题,提出了基于激励挤压神经网络（Squeeze-and-Excitation Networks,SEN）和门控循环单元（Gated Recurrent Unit,GRU）神经网络的辍课预测模型SCGNN。该模型在优化CLNN模型时序特征提取模块的同时,对每个行为特征矩阵的重要性进行了显性表示,使得预测结果更加准确。此外,考虑到辍课预测数据集中正负样例不平衡影响模型性能的问题,我们使用了改进的SMOTE算法,通过过采样少样例的样本,来训练模型,使得预测结果更加准确。并且通过不同时间段数据在SCGNN模型上的进行实验,实验结果表Abstract明发现SCGNN模型在辍课预测的早期阶段的预测结果能够达到与传统机器学习模型在整个阶段同样的预测效果,更加说明我们的实验模型的有效性。