Media-based modulation(MBM)是一项新颖的调制技术,它通过改变放置在发送天线附近的射频反射镜的开关状态,从而改变信号从发射机到接收机之间经历的信道衰落,将信息映射到不同的信道衰落状态上。相比于传统的多天线技术,它在频谱效率,能量效率和硬件成本等方面具有可观的潜在优势。最近,它在大规模MIMO系统中的应用和在物理层安全方面的应用等受到了学术界的关注和研究。本学位论文对MBM系统进行了理论分析,然后对一些MBM的关键技术展开了研究,主要由以下内容构成。首先,具体地介绍了 MBM系统的基本模型,详细地描述了 MBM技术将信息调制在信道上的过程,并给出了接收机的最佳检测方法。然后,推导了 MBM系统在不同信道模型(瑞利信道,莱斯信道,非相关信道和空间相关信道模型)中的最佳接收机的平均误比特率的理论上界,平均系统互信息量以及其近似值。并且通过蒙特卡洛仿真进一步对其性能进行了研究,分析了其优势与缺陷。接着,对大规模MIMO-MBM系统中上行链路的多用户信号检测问题进行了研究。在少量用户用MBM与装备有大量天线的基站进行通信的模型中,研究了现有的两类低复杂度算法。一类是基于干扰消除的迭代搜索算法,把其他用户的干扰视为噪声,在每轮迭代中,利用当前估计值消除其他用户的干扰之后对单用户进行ML信号检测。另一类是利用MBM信号的稀疏性,将信号检测问题近似建模为稀疏重构问题,然后用经典的压缩感知算法进行求解。在已有算法的基础上做出了新的改进,可以在保持低复杂度的同时提高其性能,并通过仿真进行了验证。针对MBM系统的物理层安全问题,主要研究合法用户与窃听者信道状态已知条件下的物理层安全模型。本文设计了两种不同的能够提升系统物理层安全的信号处理方案。一种是基于概率整形,通过优化输入符号的发送概率来最大化系统保密速率。另一种是基于预编码,通过优化预编码系数来最大化系统保密速率。分别将其建模为具体的数值优化问题,通过变量替换转换为无约束优化问题,然后用经典的梯度方法结合回溯直线搜索来进行求解。仿真结果证明在一定的条件下,系统的保密速率均能得到有效地提升。同时,为了降低计算复杂度,进一步提出了通过优化保密速率的近似值来间接优化保密速率的方案,并通过仿真证明其能达到与直接优化保密速率方案十分相近的性能。