最近二十年间,拓扑理论在凝聚态物理方面发挥着越来越重要的作用,拓扑型激发在各种不同的凝聚态系统中都有体现,这些新奇的拓扑量子态极大地丰富了凝聚态物理学。陆续发现和报道了反常量子霍尔效应、拓扑绝缘体、外尔半金属等奇异的物理现象和新材料。此外,还有一种新型的拓扑态,其中包含的准粒子在交换操作下表现出非阿贝尔的统计性质,被认为有希望在未来实现量子计算。总而言之,这些与拓扑序和拓扑态相关的新材料和新现象将可能对下一代电子器件和量子计算机的发展发挥重要的价值。按照研究材料体系的不同,本文分为以下两大部分。三维拓扑狄拉克半金属Cd3As2在费米能级处存在一对受对称性保护的狄拉克锥,这种特殊的能带结构使其有希望应用于无能耗的新型电子器件,因而得到了广泛的关注。有研究表明,磁性拓扑半金属中的拓扑态与电子之间的关联作用可能导致新的拓扑相。另外,磁性外尔半金属中实现的反常霍尔效应,使其在实现无场的无能耗输运方面具有潜在的应用价值。因此,我们的第一部分工作是将磁性Mn元素引入三维拓扑狄拉克半金属Cd3As2中,并研究其磁性和输运性质。通过控制原材料Mn3As2和Cd3As2的比例,我们制备得到了多晶（Cd1-xMnx）3As2（x=0-0.20）化合物。磁性测量结果表明,Mn元素的掺杂使抗磁性的Cd3As2转变为反铁磁性的（Cd,Mn）3As2,这或许为我们提供了一种通过操纵反铁磁序来控制拓扑保护的狄拉克材料的方法。此外,磁电阻测量观察到了强烈的量子Shubnikov-de Hass（SdH）振荡。通过分析纵向电阻率在磁场中的振荡,我们发现,Mn元素含量的变化极大地影响了费米能级的位置,Mn元素含量越高,费米能级越接近狄拉克点。通过对霍尔电阻的研究,我们认为SdH振荡来源于表面态。同时,朗道范图显示,我们制备的多晶化合物具有非平庸的贝利相位。实验结果表明,反铁磁性（Cd1-xMm）3As2体系保持着原本的拓扑性质,没有发生向平庸绝缘体态的拓扑转变。这对今后磁拓扑狄拉克半金属的研究和应用具有一定的参考价值。拓扑半金属或者拓扑绝缘体中的拓扑态,被称为“受对称性保护的拓扑相”,其拓扑序来自近邻粒子之间的局域对称性。而量子自旋液体基态,被一些研究人员认为是“真正的”拓扑相,因为它具有与量子纠缠的长程模式相关的拓扑序。我们基于量子自旋液体开展本文的第二部分研究内容。量子自旋液体指的是一种具有自旋高度纠缠,即使在零温下也不会出现有序的物态。这种物态没有确定的序参量,无法使用朗道对称性破缺理论来概括,是一种新奇的量子物态,具有很高的理论研究价值。此外,新型的高温超导电性和量子计算也与其具有密不可分的关系。因此,量子自旋液体吸引了大量研究人员的兴趣。NaYbO2被认为是一种可能实现量子自旋液体基态的材料。本文结合高场磁化率测量和非弹性中子散射等手段,对不同成分的Na1xYbO2（x=0,0.03和0.07）进行了研究。对于x=0样品,在0.3 K以下没有观察到任何磁有序的特征。非弹性中子散射实验表明,在动量转移Q约为1.25 A-1的位置存在一个连续的低能激发谱,并延伸至转移能量E～2.0 meV处。与之相比,x=0.03和0.07的样品则分别在1.1和2.3 K时出现反铁磁转变。高场磁化测量结果表明x=0和0.03样品具有非常类似的磁性质,如均在1/3饱和磁化强度处出现平台状特征。这意味着x=0样品中的自旋无序态可能在“上上下”相出现之前被外磁场抑制。基于以上的实验结果,我们构建了完整的与外磁场和成分相关的相图。我们的实验结果表明,NaYbO2是一种非常有希望实现量子自旋液体态的材料,其无序的量子自旋液体基态非常接近易受外磁场和Na+离子空位浓度调控的不稳定反铁磁态。最后,我们对磁化强度的数据进行了详细的分析,得到了可能的量子自旋液体基态的临界转变磁场,进一步完善了 NaYbO2的温度—外磁场相图。此外,我们选取具有较大分子磁矩的Er和Ho元素,制备了与NaYbO2具有相同结构的NaErO2与NaHoO2,研究了其磁性及其磁热性质。结果显示,NaErO2与NaHoO2样品显示了优良的磁制冷性能,在0～5 T的外磁场下,其磁熵变分别在在3和6 K时取得最大值18.2和18.5 J/kg·K。NaHoO2在低场时同样具有较好的制冷性能,在0～1T和0～2T的磁场条件下,磁熵变在3K时分别达到9.0 和 12.8 J/kg.K。