随着集成电路技术的快速发展,GPU计算能力不断提升,可编程性不断提高,特别是在CUDA等编程环境出现后,GPU通用计算的复杂性大幅降低,其可编程性、功能、性能都显著提升。GPU已逐渐演变成一个新型可编程高性能并行计算资源,在需要大量计算的通用计算领域得到广泛应用。当前在通用计算领域,GPU的计算资源利用率并不高,片外访存等长延迟操作是造成GPU计算资源利用率低的一个重要原因。典型的Warp调度算法并不能较好的隐藏长延迟操作。本文充分分析了各种典型Warp调度算法,其中,轮训调度算法中各个Warp具有相同的优先级,使得各个Warp在相同时间点到达长延迟指令,因此没有多余的Warp来隐藏长延迟;而贪婪调度算法虽然隐藏长延迟指令的能力稍好一些,但是在一定程度上破坏了局部性,降低了缓存命中率,产生更多的片外访存。本文针对上述问题设计了一种基于贪婪算法的两级调度策略,通过两级调度和贪婪调度相结合的方式隐藏长延迟。两级调度就是采用分组的形式来更好地隐藏长延迟操作,调度单元选择一个组进行调度,发射该组中的Warp指令。一旦组内的Warp全部阻塞,就采用轮训调度算法选择其它组进行调度。两级调度策略采用分组的方式防止了所有的Warp因为长延迟操作而同时阻塞,每次只会有一个组发生阻塞,其它组内Warp可以继续调度执行。组内Warp采用贪婪算法调度,避免了各个Warp同时到达长延迟指令,进一步起到了隐藏长延迟操作的效果。经仿真验证,本文设计的基于贪婪算法的两级调度策略与常用的轮训调度算法相比,总体上有7.6%的性能提升,对部分应用程序,该算法有11.2%的性能提升。