为适应未来发展的需要，未来移动通信系统要求能够支持高达每秒数百兆甚至千兆比特的高速分组数据传输。在无线资源日趋紧张的情况下，采用多载波OFDM传输技术和多天线MIMO传输技术，充分挖掘利用空间资源，最大限度地提高频谱利用率和功率效率，将成为未来移动通信研究的关键所在。本论文针对OFDM和MIMO系统中的关键技术进行了研究，具体包括资源分配技术，多用户选择调度策略，有限反馈方案设计，以及自动重传等跨层设计技术。 论文第二章研究了OFDM系统中针对子载波，功率以及传输比特数等的自适应资源分配技术。首先，我们分析了单用户OFDM系统中最优功率和比特分配方案的特性，给出了最优功率分配方案下用户间信道增益所需要满足的必要条件。根据此必要条件，提出了一种计算复杂度较低的自适应资源分配算法。该方法可以在降低算法复杂度的同时获得系统的最优分配性能。本章后半部分研究了多用户OFDM系统中的资源分配问题。针对资源分配时所带来的用户公平性问题，我们研究了含用户最小传输速率约束条件下的子载波，功率，和比特的联合分配算法。通过理论分析，论文将原来复杂问题转化为针对多个标量变量的简单多变量优化问题，并根据此结论提出了一种低复杂度且性能优异的自适应资源分配算法。 论文后三章主要研究了MIMO系统中的一些跨层设计技术。第三章分析了具有空间相关特性的MIMO系统中多用户选择和调度策略。在该系统中，最优的调度策略需要所有用户都反馈其完全的信道矩阵（或向量）信息。然而，这一要求将极大地增加系统所需的反馈信息量。为了减小调度算法所需的反馈信息量，本章以最大化信道容量界为目标，提出了一种基于标量反馈的多用户调度方案。为了进一步提高调度算法性能，论文首先推导了一个仅与用户信道相关阵有关的系统和容量下界，然后根据此下界提出了一种基于统计信道信息的用户选择策略。该方案可以在几乎不增加系统反馈信息量的基础上，提高系统的调度性能。 第四章针对采用自动重传的MIMO系统，优化了有限反馈方案的设计。在系统总反馈链路带宽一定时，为了提高系统在有限反馈链路的总容量，我们发现在各用户处于不同重传状态的情况下，为不同用户合理地分配反馈信道带宽可以有效地提高系统的和容量。论文分析指出系统应该尽量地将有限的反馈链路带宽分配给那些处于第一次传输新数据的用户；而对于那些处于多次重传状态下的用户，系统则应该少分配给他们一些反馈带宽以提高有限反馈约束下的系统容量。另外，本章还在极限信噪比条件下对该问题进行了理论分析，并分别给出了系统在高信噪比和低信噪比情况下近似最优的有限反馈带宽分配方案。 最后，论文第五章研究了基于有限反馈技术的MIMO系统中有限反馈带宽的优化问题。针对不同用户接收信号的平均信道信噪比不同的应用场景，我们提出通过优化有限反馈带宽的分配方案来提高系统的和容量性能。与第四章中考虑的情况相类似，这里同样假设系统的反馈链路带宽受限。在此条件下，由于不同用户的接收信号的平均信噪比不同，分配给这些用户的有限反馈带宽也应该做相应的调整。研究结果表明：基站应该将有限的反馈比特数分配给那些处于较好信道状态的用户；而对于那些处于较差信道状态的用户，基站适当地少分配给它们一些反馈链路带宽。本章最后将基于单天线用户MISO系统的结果推广到了多天线用户的MIMO系统中。仿真分析表明该算法能够提高异构多用户系统中反馈链路带宽的利用效率，从而提高系统的和容量。