本论文对碳族元素及过渡金属碳化物的新结构与性能进行了理论与实验两方面的研究。采用基于第一性原理计算的CALYPSO和USPEX晶体结构预测程序搜寻碳族元素及过渡金属碳化物中可能亚稳存在的新结构，选取其中一些结构解释实验现象；采用高温高压实验技术合成新型碳同素异形体及过渡金属碳化物，并测试它们的一些物理性能。通过结构预测软件来搜索碳的新结构，发现了三类新型碳同素异形体。一类是三维（3D）碳纳米管聚合体，它们具有比C₆₀低的能量、特殊的电学性质和优良的机械性能。其中新提出的3D （2,2）碳纳米管聚合体Cco-C₈可以很好地解释实验观察到的一种由冷压碳纳米管束获得的未知结构的超硬碳。通过深入研究获得这类亚稳碳的可能途径，发现压力会促使碳纳米管形成丰富多种的聚合体，为进一步寻找新型碳结构提供了一个新的思路。第二类是sp²杂化的新型3D碳同素异形体。研究发现，sp²杂化的碳材料中不仅仅只有石墨、石墨烯、富勒烯、碳纳米管，还可能蕴藏着丰富的其他同素异形体。第三类是由相互垂直的石墨烯搭建的3D碳同素异形体。它们不仅具有较低的能量，而且都是窄带隙的半导体。采用高温高压工艺合成了三种新结构的碳。以C₆₀为原料，分别在15 GPa、800℃和25 GPa、1000℃条件下合成了非晶碳Ⅰ和非晶碳Ⅱ，前者的硬度为65 GPa，后者的硬度在80 GPa以上。此外，采用石墨为前驱物，经25 GPa、1300℃高温高压处理后，获得了一种具有强荧光性的新型碳相。发现碳族元素C、Si和Ge都可以形成一种新型四方T12相，其中Ge的T12相很好地解释了30年来实验上一直未确定的一种四方Ge相；Si的T12相也可以解释以前实验上称之为Si XⅢ的相；进一步的模拟表明Si（或Ge）的T12相可以通过高压β-Sn相卸压获得。C、Si和Ge的T12相都是间接带隙半导体，C的T12相还具有超硬特性。研究了岩盐矿结构（B1）的碳化物（TiC、ZrC、HfC、VC、NbC和TaC）在高压下的相变规律。发现这些碳化物在高压下可沿着两条相变路线（B1→TⅡ′→TⅡ和B1→TiB′→TiB）转变，得到这类碳化物的四种新高压相。其中高密度的TⅡ′相在常压下可以稳定存在，有望成为一类具有特殊性能的新型过渡金属碳化物。难熔过渡金属，如Ru、Ir、Re等，是否具有碳化物仍不清楚或存在争议。我们提出了一种闪锌矿结构的RuC来解释以前实验上合成的立方RuC，研究结果表明闪锌矿结构的RuC是一种潜在的半导体超硬材料。在此基础上，我们还研究了闪锌矿结构的IrC。在2～6 GPa、873～1873 K的高温高压条件下合成了具有超不可压缩性、高硬度的Re₂C块材。这种Re₂C具有ReB₂结构，硬度和体积模量分别为17.5 GPa和388.9 GPa。另外还发现立方Fe₄N结构的Re₄C可以解释以前实验中合成的立方碳化铼。采用动高压实验技术冲击hcp结构的Ru得到了一种新型fcc结构的Ru相，其晶格参数为3.868。研究发现，在冲击过程中，碳没有与钌形成碳化物，碳的隔离及束缚作用导致了hcp-Ru向fcc-Ru的转变。