传统通用处理器的设计与制造受限于功耗、散热等因素,其计算能力的持续提升遇到瓶颈,不能满足人们日益增加的计算能力需求。由通用多核处理器和专用加速器组成的异构众核系统具有很好的计算能耗比,在高性能计算领域和嵌入式计算领域都得到了越来越广泛的应用。然而,通用多核处理器与加速器间的数据搬运开销（通信开销）却成为影响异构程序性能的重要因素。多任务流技术是一项可以高效利用异构系统计算资源的编程技术。它通过对计算任务与硬件资源的划分,重叠计算任务与数据传输任务,以利用异构系统的时间与空间共享特征,从而掩藏数据搬运开销。因此,面向异构众核系统研究多任务流机制的编程方法与性能优化技术具有重要的研究意义。使用多任务流技术编写高效异构程序,仍面临包括多任务流编程模型支持短缺、程序编写门槛高、性能优化困难等在内的多方面的挑战。目前只有部分编程模型支持多任务流编程,特别是国产众核系统尚缺乏对异构编程模型及多任务流机制实现的支持。异构系统的编程相对传统编程,增加了主机与加速器的数据传输、负载分配、加速器管理等操作,而且还需要针对加速器专门编写内核代码。而多任务流编程在异构系统编程基础上,还需要程序员划分任务数据、调度数据传输与计算任务,这进一步增加了编程难度。多任务流编程的性能问题主要是流配置参数的选择,包括任务的划分数量和硬件资源的划分数量。这些参数对多任务流程序性能有很大影响,且选择参数不当时程序的性能会比不使用任务流编程时更差。而选择恰当的参数很具有挑战性,这是因为流配置参数的取值空间很大,并且不同的平台、程序和输入数据集,最优的参数取值都可能不同。本文面向异构众核平台研究多任务流机制实现与多任务流程序优化技术,包括支持多任务流机制的编程模型实现技术、多任务流代码自动生成技术和多任务流程序自动调优技术,旨在最小化宿主机与加速器间的通信开销并降低程序员编写异构程序的难度,从而最大程度地发掘异构系统的潜在计算性能。本文的研究内容和贡献主要包括:1.针对国产众核加速器Matrix-2000缺少多任务流编程模型支持的问题,本文首次设计并实现了Open CL编程环境MOCL,支持多任务流编程;其运行时系统采用“推送优先”的任务分派方法和“无锁”的原子操作实现,方便用户有效利用众核加速器。还针Matrix-2000的体系结构特点,提出了一组新的分析与优化技术,可以帮助用户高效地发挥加速器计算潜力。2.针对编写异构多任务流程序容易出错且耗时的问题,本文首次实现了一个异构多任务流代码的自动生成与优化框架,能够将串行C代码自动地分析并转换成异构多任务流代码。该框架不仅能够支持当前各种主流的异构编程环境,具有良好的可扩展性,而且还实现了消除冗余数据传输等优化技术,从而显著地提高所生成的多任务流代码的性能。3.流配置参数（含任务划分数量和硬件资源划分数量）是Xeon Phi平台上影响异构多任务流程序性能的重要参数。针对最优流配置难以找寻的问题,本文首次提出了一种自动化的最佳流配置预测模型构建方法:先对参数进行分类,然后使用机器学习算法训练分类器,使用分类器来预测多任务流程序参数。实验结果表明,与只使用单个任务流相比,使用本方法能够获得的平均加速比为1.6倍,能够达到最优性能的94.5%。4.使用分类方法获得的流配置参数只能落到训练时“所能见到的”参数集合中,但是该参数集合有可能无法覆盖整个参数取值空间,导致模型的泛化能力有限。为了避免对参数进行分类并将该方法应用到更多的异构众核平台,本文使用回归方法构建性能模型以预测使用不同参数时多任务流程序的性能,通过对参数空间进行搜索找到优化参数。在Intel Xeon Phi和NVIDIA GPU两个平台上的实验结果表明,与使用单个任务流相比,本方法能够取得的平均加速比分别为1.6倍和1.1倍,分别达到最优性能的93.7%和97.9%。