广告点击事件的准确预测是实时竞价算法中的重要因素之一,关系着广告主的成本与收益。当前在线广告的业务场景下,数据规模巨大且具有高维、非线性、稀疏性等特点,如何高效地设计算法以减少迭代是优化算法中要考虑的关键因素。同时,深度学习也为大规模非线性特征的学习及预测提供了有效手段。针对上述问题,本文将主要分为两部分来开展对广告点击预测算法的研究工作。(1)在研究FTRL(Follow-the-regularized-Leader)优化算法的基础上,提出了基于FTRL优化算法的因子分解机模型。在特征提取阶段,使用基于梯度提升决策树算法的特征提取代替了人工特征提取。FTRL算法在梯度下降算法的基础上进行改进,加入了混合正则项防止过拟合,在保持梯度下降类算法高精确度的同时提高了稀疏性。因子分解机可以更好地学习到互异特征分量之间的关系,比传统逻辑回归更有效。实验结果显示,改进后的算法有效地提高了广告点击事件的预测准确率。(2)针对人工特征提取费时费力、浅层模型无法充分考虑到数据之间的非线性关系等问题,提出一种基于 CNN(Convolutional Neural Networks)-LSTM(Long Short Term Memory)混合神经网络模型。卷积神经网络的稀疏连接和权值共享特性能够自动提取高影响力特征,避免了繁琐的人工特征提取。与普通递归神经网络相比,LSTM神经网络通过输入门、遗忘门、输出门、细胞状态四个特性克服了网络训练过程中梯度爆炸或梯度消失的问题,通过时序性进行分类预测。实验结果显示,改进后的混合神经网络比单一结构的神经网络更加有效。