量子反常霍尔效应以及相关拓扑量子现象不但是凝聚态物理的重要研究课题,还有可能用于开发新颖的拓扑量子器件。内禀磁性拓扑绝缘体集内禀拓扑电子态和内禀磁有序于一体,二者间较强的相互作用使此类材料有望在较高的温度实现量子反常霍尔效应。MnBi2Te4是第一种实验上发现的内禀磁性拓扑绝缘体,近期引起了人们极大的研究兴趣。高质量的MnBi2Te4薄膜是该研究方向的材料基础,具有很大的挑战性。本论文结合分子束外延、原位角分辨光电子能谱、扫描隧道显微镜以及输运测量,围绕MnBi2Te4及相关材料的生长和性质开展了系统的研究。主要成果如下:（1）建立了高质量MnBi2Te4薄膜分子束外延的生长条件及生长动力学。结合原位角分辨光电子能谱等手段系统研究了Mn-Bi-Te共沉积的三元薄膜的电子能带结构随Mn含量和衬底温度的变化,发现随着Mn含量的增加,薄膜会发生从Mn掺杂Bi2Te3相到MnBi2Te4相的转变。较高的衬底温度有利于晶化获得高质量MnBi2Te4薄膜,而较低的衬底温度会提高Bi2Te3中Mn掺杂浓度的上限,从而抑制MnBi2Te4相形成并降低其薄膜质量。相变过程中角分辨光电子能谱的演化揭示出了MnBi2Te4相形成的动力学条件。此项研究为高质量MnBi2Te4家族外延薄膜的生长提供了指导原则。（2）研究了MnBi2Te4薄膜的磁学性质随厚度的变化。系统研究了不同层厚MnBi2Te4薄膜的磁输运性质,得到了MnBi2Te4薄膜的磁滞回线和磁电阻随温度、磁场和层厚的变化,建立了薄膜的磁各向异性及磁化反转过程与层内、层间磁耦合的关系。此项研究是第一个对MnBi2Te4薄膜的磁学和输运性质比较系统的研究。（3）发现了Bi2Te3上外延的绝缘CdTe薄膜中二维电子气能带的形成以及高能反常现象。系统研究了Bi2Te3表面外延生长的CdTe薄膜的能带结构随层厚的变化,观测到了穿过费米能级的两条二维自由电子能带以及它们随厚度变化不同的行为。这两条能带分别对应于CdTe表层Cd悬挂键形成的表面态以及CdTe薄膜能带弯曲导致的二维电子气能带。此外,还观测到这两条能带呈现出类似氧化物薄膜中常见的高能反常现象。此项研究发现了一种不同于氧化物和Ⅱ-Ⅵ族半导体的新的二维电子气系统,为相关研究奠定了基础。