随着智能便携终端的不断普及和APP的广泛应用,无线宽带通信业务数据流量需求呈爆炸式增长,并且通信频谱资源紧缺也成为5G/6G通信系统亟需解决的问题。通信系统采用大规模多输入多输出（Multiple-Input Multiple-Output,MIMO）天线阵列收发信号,结合非正交多址接入（Non-Orthogonal Multiple Access,NOMA）技术进行频谱共享是通往绿色通信的有效途径。在大规模MIMO-NOMA无线通信系统中,如何有效抑制用户之间的相互干扰、合理分配功率资源是提高频谱效率和增大系统容量的关键。在保证用户通信质量的前提下,本文对大规模MIMO-NOMA系统中的用户分簇和功率分配问题展开研究,主要完成如下工作:1)对于下行链路数据传输阶段,提出一种低计算复杂度的用户分簇算法。首先利用弦距离衡量用户信道之间的相关性,为每个波束选择信道相关性较弱的用户作为簇头,能够抑制波束之间的干扰,随后将剩余用户分配至各波束中。然后,将被选中的簇头用户的信道作为该簇的等效信道,并利用混合预编码技术设计模拟预编码和数字预编码。结果表明,在射频链路数量较少的情况下,所提的分簇算法不仅能够有效抑制波束间干扰,而且能增加波束内可容纳用户数目,频谱效率指标高出所对比算法约12%左右。2)以系统频谱效率最大化为优化目标,提出一种低复杂度功率分配算法。利用拉格朗日定理将原问题转换为对偶问题,求解得到最佳对偶值以及最佳功率值。在求解最佳对偶值的算法中,通过减少每次迭代中梯度计算的复杂度,从而降低整个算法的复杂性。实验结果表明,所提算法有较快的收敛性,结合所提出的用户分簇算法,为每个用户分配最佳的功率,从而提升频谱效率和能量效率。3)针对速率最大化的方案会导致弱用户通信速率损失的问题,提出一种最大化系统最小速率的功率分配算法,以提高通信公平性。由于波束间以及波束内存在干扰导致目标函数非线性,通过对非线性限制条件改写,将原目标函数转换为线性问题,再利用复杂度较低的二分法经过多次迭代获得系统最小速率的最大值以及用户的功率。仿真结果表明,尽管系统的通信速率与速率最大化的方案相比有所损失,随着信噪比的增加,系统最小速率高于速率最大化方案5%-10%并且持续增长,保证了弱用户的速率性能,从而提高了通信的公平性。