本文主要介绍了核主成分分析(KPCA)、支持向量回归(SVR)、核fisher判别分析(KFDA)等以核函数为基础的学习算法,并把这些方法用于多因子选股理论当中。文章首先给出了核函数的定义与它的一些较为重要的性质,利用核函数,数量积可以在特征空间中进行隐式计算,而不需要知道具体映射,然后将此原理用于监督学习和无监督学习,进行基于核函数的算法推导。主成分分析(PCA)是无监督学习理论中常用的一种算法,主要思想是通过正交性的变换将有相关关系的样本转变为线性无关的样本,并依据一定准则选取少数的新变量体现原本多个变量含有的重要信息。由于PCA为线性算法,它无法提取变量中隐含的非线性结构,核主成分分析(KPCA)作为以核函数为基础的非线性特征提取方法,首先将样本中的变量映射到高维空间然后求解一个与PCA相似的线性组合问题得到核PCA成分。支持向量回归(SVR)引入的是结构风险最小化理论,并且应用ε不敏感函数作为模型的损失函数,对于一组训练数据确定一个函数使它可以精确地逼近未来的值。非线性支持向量回归则是用核函数方法把样本变量映射到一个高维空间,并通过建立线性函数达到在输入空间中的非线性回归效果,进而进行样本训练学习和预测。映射后样本的变量可能会出现分布不平坦或者维度过高的情况,此时仅仅应用一个核函数的支持向量回归模型拟合效果并不理想。多核支持向量回归以核函数性质为基础,将多个核函数进行合理有效的组合,可以获取拟合效果更好的回归模型。核函数技巧同样可以应用于fisher判别分析这种有监督的分类场景当中。在线性情况下,Fisher判别法的目的是建立一个线性判别函数,从而使不同类别的数据能够很好地分离,并且通过最大化Rayleigh商实现可分性。核fisher判别分析的思想是解决映射后的因子变量在高维空间中的分类问题,从而在原始空间中产生一个非线性的判别函数。基于核函数的学习算法广泛适用于多因子选股理论,它主要通过探究对股票收益率相关的因子或指标从而对未来收益率进行刻画并进行选股。应用多元线性回归方法预测收益率的多因子选股模型,其因子共线性问题会影响策略效果与稳健性,PCA与KPCA可以有效解决共线性问题,并且通过选取适当的核函数与其参数,基于KPCA的回归选股模型拟合结果比基于PCA的回归选股拟合结果稍好。支持向量回归具有很好的数据拟合性能,针对多因子选股模型,其通过选择适当的不敏感参数、惩罚因子、核函数参数组合,可以得到理想的因子数据拟合效果。将核fisher判别分析模型应用到多因子选股中,把低维空间非线性的因子变量转变到高维空间进行线性分类,有效提高了构造的选股模型分类的准确性,使得选取组合的收益率高于基准收益率。