为解决现有毫米波多输入多输出（Multiple-input Multiple-output,MIMO）通信系统高能耗、高硬件成本和高计算复杂度等问题,可重构智能表面（Reconfigurable Intelligent Surface,RIS）被认为是提升未来无线通信网络效率的一项关键性技术。本文围绕RIS辅助的毫米波MIMO系统中的波束成形问题开展研究工作,具体如下。本文首先在RIS辅助的毫米波MIMO系统空口信道矩阵已知的情况下,分别在单用户和多用户场景中研究了该系统的波束成形技术。在单用户场景下,分别利用半正定松弛和交替最小化方法,联合设计了基站侧的波束成形向量和RIS的反射系数,在保证用户接收信噪比大于某个门限的情况下,实现了基站发射功率的最小化。不同于单用户场景,多用户场景需要考虑用户间干扰,在该场景下通过交替最小化方法,联合设计了基站侧的波束成形矩阵和RIS的反射系数,在保证所有用户接收信干噪比大于某个门限的情况下,实现了基站发射功率的最小化。仿真结果表明,相比于没有RIS的毫米波MIMO,或者有RIS但RIS相位随机生成的毫米波MIMO,本文方案能有效降低基站发射功率。考虑到实际RIS辅助的毫米波MIMO系统中直接获取空口信道矩阵比较困难,本文随后在空口信道矩阵未知的情况下,通过波束训练优化设计了基站侧波束成形和RIS反射系数,并提出了多播训练和分层多播训练两种方案。多播训练方案将波束训练过程分为两个阶段,其中第一阶段同时使用了基站和RIS进行波束扫描。基站在对用户进行波束扫描的同时,分出一部分能量形成波束固定指向各RIS,并通过改变各RIS的相位实现各RIS对用户的波束扫描。同时,用户进行波束测量并选出最佳的一次波束扫描结果。考虑到第一阶段中基站波束扫描和各RIS波束扫描叠加在一起,需要在第二阶段对第一阶段所获得的最佳波束扫描结果进行逐链路训练,选择一条最佳的基站到用户的通信链路,并将基站的所有能量集中形成一个波束对准该链路。在多播训练方案的基础上,分层多播训练方案通过引入分层码本设计,显著降低了多播训练方案中第一阶段的训练开销。仿真结果表明,相比于波束扫描方案,本文提出的两种波束训练方案能够在保证一定性能的同时降低训练开销。