高温超导是凝聚态物理最重要的研究领域之一,在过去二十多年得到了广泛的实验和理论研究,但高温超导的许多基本问题还很不清楚,包括基本配对机制和正常态的各种非费米液体行为。高温超导之所以难以理解,重要原因之一是其相图非常复杂,并且相图有若干个量子相变。基于掺杂浓度和其他各种因素的不同,可能的零温度基态包括反铁磁、超导、条纹、nematic等,这些基态都对应于某种长程序,都自发破缺了某种对称性。由于量子临界点的涨落是发散的,这些长程序之间不是独立的,而是互相影响的。研究高温超导相图中量子相变点的临界物理行为有重要的科学意义,不但能帮助人们理解高温超导的很多反常行为,甚至对最终揭示高温超导的基本物理机制也有重要的推动作用。本论文主要研究了d-波高温超导体中的若干量子相变,包括nematic量子相变。论文的第二章,我们运用重整化群的方法研究了三种随机杂质,即随机化学势、随机质量、随机规范势,对d-波超导体中的nematic量子相变点费米速度和能隙速度跑动的影响。我们发现,随机质量和随机规范势不会改变nematic量子相变点的费米子速度极端各向异性的现象；但是随机化学势会使得nematic量子相变不再稳定,进而使得这种费米子速度的各向异性现象被破坏。另外,论文的第三章,我们运用重整化群的方法系统地研究了nematic量子相变点附近超导序与nematic序的竞争问题。不同于之前很多的工作,我们超越了Hertz-Millis理论,直接加入无质量的节点准粒子自由度,给出了d-波高温超导体中超导与nematic竞争的低能有效场论模型。然后计算了所有可能的单圈费曼图,进行了系统地重整化群分析,求出了所有参数的重整化群跑动方程。接着,经过理论和数值地分析这些跑动方程,我们发现无质量的节点准粒子自由度对d-波超导和nematic相的竞争起了非常重要的作用：如果不考虑费米子的自由度,那么这两种序的竞争可能会导致一级相变；但是随着费米子自由度的加入,其物理性质被根本地改变了,我们发现此时体系跑动到一个稳定的固定点,在nematic量子相变点,这两种序会退耦,因此超导和nematic相可以均匀共存和连续相变。除了d-波高温超导体中nematic量子相变,我们还把重整化群方法运动到了其他物理体系。论文第四章,我们主要研究了有限化学势对QED3中无质量的狄拉克费米子低能物理行为的影响。我们发现,零化学势和有限化学势时,无质量的狄拉克费米子的物理行为有定性的不同：在零化学势μ=0时,费米子速度没有获得重整化修正；而当有限化学势μ≠0时,由于规范场的时间分量变成短程的相互作用,空间分量仍然保持长程相互作用,进而导致费米子速度获得一个有限反常维数γv≠0,具体的计算显示：反常维数γv≠0直接引起了狄拉克费米子低能物理行为展现出较强的非费米液体行为,比如比热、态密度、以及压缩率。紧接着,论文第五章,我们给出了一种新的处理电子相互作用体系的的竞争序问题的方法,即联合单粒子不可约泛函重整化群与平均场方法。这种方法可以较为准确地描述二维电子体系的序竞争和共存的物理行为。作为初步的应用,我们只考虑了二维Hubbard模型中均匀反铁磁与超导序的竞争。