近年来,人工智能技术得到长足发展,相关技术已广泛应用于各个产业以及人民的日常生活。从生活日常的消费、交通、医疗,到更高层面的信贷、司法、行政,人工智能技术在对越来越多的领域产生深层次的影响。随之而来的,也有人类对人工智能未来的担忧:这个发展迅猛的新“伙伴”,是不是值得人类信赖?最近的很多研究关注了可解释人工智能领域,人们尝试通过不同角度去解释各个机器学习算法的预测行为。树集成模型是一种流行的机器学习模型,在分析结构化数据时,它通常具有很好的预测性能。尽管单个的决策树通常被认为是一个白盒模型,可以自然解释。但树集成模型常包含了数量庞大的决策树,若干棵树同时作用于预测结果,形成了黑盒模型,这样的模型难以自然得到直观的解释。为了解释树集成模型的预测行为,了解其在实际任务中的预测逻辑,我们研究了树集成模型的可解释性问题。本文主要的工作和贡献如下:1.基于逻辑的解释集提取框架本文提出了一个基于逻辑推理的提取树集成模型解释集的框架,该框架能将一个树集成模型转换为一个包含若干IFT HEN形式的决策规则的解释。该解释集解决了树集成模型的可解释性问题,提供模型的全局解释帮助用户理解一个模型的预测逻辑。同时也是一个可用于预测的小型替代模型,能够为优化树集成模型的验证提供支持。2.优化解释集本文提出了评估解释集性能优劣的量化标准,该标准均衡考虑了解释集的大小与解释集的预测能力。并基于该标准,进一步优化,得到优化解释集（Opt Explain）。相比未优化的解释,Opt Explain是一个更优的可解释代理模型。3.等价类侧写本文提出了生成等价类侧写（Pro Class）的方法,是基于样例的解释。Pro Class基于Opt Explain,应用可满足性模理论（SMT）,能够为每个类别提供一条公式,以描述模型视角中最接近该类别的特征分布。P ro Class为树集成模型的可解释性提供了另外的视角,为用户提供了数据类别的代表性范例。4.可解释性分析在多个数据集上的实验表明,本文的方法可以为大型树集成模型提供高质量的解释。相比相关工具in Trees、defrag Trees,Opt Explain能够生成规模更小、保真度更高的解释,且能够根据用户偏好设定生成更符合需求的解释。