大规模多输入多输出（MIMO）和设备到设备（D2D）通信技术在实现高频谱效率方面发挥了巨大的优势,已成为5G和B5G无线通信网络中具有前景的关键技术,并有望成为6G的重要组成部分。准确信道状态信息（CSI）的获取是实现高频谱效率的基础,目前CSI由基站接收导频利用信道估计技术来获取。受限于相干时间,导频序列无法满足大规模MIMO系统的所有用户实现导频正交。因此,用户不可避免的共享相同的导频,导致了限制系统性能提升的导频污染问题。即使部署大规模天线阵,导频污染仍限制系统容量无法提高。因此设计导频分配方案成为大规模MIMO系统中的研究重点。同时,终端设备的功率总是有限的,较小的发射功率会导致信号无法发送成功,较大的发射功率会降低能量效率。事实证明,功率是影响系统性能的另一个重要挑战。此外,增强大规模MIMO与D2D通信的合作会极大的提高系统频谱效率,但会加剧导频污染。针对上述挑战,论文首先研究多小区大规模MIMO系统的导频分配和导频长度优化方案。为进一步提升频谱效率将多小区大规模MIMO系统扩展到D2D通信Underlay大规模MIMO（大规模MIMO-D2D）蜂窝系统,重点研究导频分配和功率优化。论文的主要贡献总结如下:1)研究了多小区大规模MIMO系统中以降低导频污染和提升频谱效率为目的的导频分配机制。综合考虑导频污染和相干时间限制,提出了一种联合导频分配和导频长度优化方案。首先为避免相互间干扰较严重的用户共享相同的导频,设计基于信道系数的相似性来区分用户之间的导频污染,并设计到达角（AOA）定位方法去计算用于测量用户之间潜在功率干扰的距离。然后为相互间相似性较大,距离较短的用户分配正交导频。其次研究如何规划导频长度以促进系统性能的提升,提出了一种低复杂度的外推内插算法去优化导频长度。最后设计联合导频分配和导频长度优化算法以最大化系统频谱效率。仿真结果表明,与随机导频分配、智能导频分配和无导频长度优化方案相比,提出的联合导频分配和导频长度优化方案提供更高的系统频谱效率。2)研究了多小区大规模MIMO-D2D蜂窝系统中以提升频谱效率为目的的导频分配和功率优化算法。蜂窝用户与D2D用户共享相同的导频加剧了系统的导频污染及功率干扰。针对上述问题,首先分析存在的导频分配问题不能同时满足公平性和提升系统性能的缺点,提出了一个最大总频谱效率乘积的导频分配问题,该问题能在保证用户公平的同时又能进一步提高系统性能。其次,依据最大频谱效率乘积是一个寻优组合问题,提出了一种具有竞争力的导频灰狼优化（PGWO）算法去解决该问题。PGWO算法通过全局搜索可以精确地找到最大总频谱效率。最后,针对功率制约问题及进一步提高频谱效率,制定了功率最大最小公平问题,并提供二分凸优化算法来解决该问题。仿真结果证明,与传统导频分配方案相比,提出的最大频谱效率乘积问题、PGWO算法和二分凸优化算法可以为用户提供公平的同时显著提高系统总频谱效率。