统计表明,一款新药从设计到上市的研发周期平均需要十三年的时间和多达几十亿美元的研发成本。其中,生成类药性分子候选库是药物合成的关键步骤。通过有效的算法快速得到准确的类药性分子候选库是加速新药研发的重要手段,因此尝试使用深度学习方法生成分子候选库具有实际价值。基于深度学习的类药性分子生成模型优化研究中,提出了一个基于改进型变分自编码器的分子生成模型。首先,在变分自编码器架构中使用Dilated CNN算法作为解码器网络进行泛化分子生成。制药行业中真正有价值的分子集是具有特定生物活性的分子,本文通过迁移学习和强化学习两种方法来进行分子生成模型的优化工作。第一种方法是使用迁移学习优化生成模型,迁移学习中选用常用的金黄色葡萄球菌和恶性疟原虫作为研究靶点,使用EOR作为再训练后模型的评价指标,分别验证生成集中是否能够重现测试集出现过的分子。第二种方法是将上述的改进变分自编码器作为生成模型,将随机森林作为预测模型,并使用策略梯度下降算法将二者整合到一个系统中。该系统将生成模型视为智能体,将判别模型视为环境,构成了一个基于马尔可夫决策过程框架的优化算法。系统使用JAK2为靶点研究最大化和最小化指标。经实验验证,所提出的改进型变分自编码器在生成分子的有效性指标上达到0.981,超过了基于变分自编码器模型和循环神经网络模型的效果。基于策略梯度下降的优化算法使用了新的奖励函数,减缓了模型更新过后的生成模型有效性指标下降迅速的问题。