自旋轨道耦合是在物理学的诸多领域广泛存在的一种相互作用,它联系微观粒子的自旋和它的轨道运动。在原子和分子物理领域,它导致光谱的精细结构；在固态材料中,它刻画电子在晶体场中运动所感受到的依赖于电子动量的非均匀场；在自旋霍尔效应,拓扑绝缘体,拓扑超导体等其它领域也都起着至关重要的作用。对冷原子气体来说,由于原子是电中性的,并不存在内禀的自旋轨道耦合。2009年至2011年期间,NIST小组在一系列的实验中借助于激光与原子的相互作用在冷原子气体中相继实现了人工的矢势,磁场,电场,以及非阿贝尔的规范场,即自旋轨道耦合。从那以后,对自旋轨道耦合的冷原子气体性质的研究飞速发展。NIST小组的实验所实现的一维自旋轨道耦合在一个空间方向上耦合冷原子的自旋和动量,在形式上等价于等权重的Rashba和Dresselhaus型自旋轨道耦合的叠加。近两年,新的实验进展不断出现,自旋轨道耦合的自旋为1的高自旋玻色气体,二维自旋轨道耦合的超冷费米气体和晶格玻色气体在实验上相继实现。在实验上实现更高对称性的三维的自旋轨道耦合,即Weyl耦合的方案也不断出现。对自旋轨道耦合的冷原子气体的性质的研究成了近年来持续的研究热点。理论和实验研究都表明,自旋轨道耦合的玻色气体呈现新奇的基态相,对于NIST自旋轨道耦合的赝自旋1/2玻色气体,有平面波相,条纹超流相,以及零动量相；而对于自旋1的玻色气体,条纹相还将具有空间调制的向列序。这些相在二维的Rashba自旋轨道耦合的冷原子气体中也都存在,而Weyl耦合的赝自旋1/2玻色气体存在平面波和条纹基态。当自旋轨道耦合的冷原子气体处于较强的囚禁之中时,还会出现半量子涡旋相以及自发局域的晶格相等。在本论文中,我们分别研究了Weyl 自旋轨道耦合的赝自旋1/2和自旋1的玻色气体,主要工作分为两部分：第一部分,研究了Weyl自旋轨道耦合的赝自旋1/2的玻色气体的基态。我们用变分方法研究了囚禁在外部谐振子势阱中的三维Weyl自旋轨道耦合的赝自旋1/2的玻色气体。我们注意到三维自旋轨道耦合会破坏宇称守恒,不同宇称的谐振子本征态之间存在相互作用,单粒子的总角动量仍然是好量子数。为此我们将谐振子的s波和p波态叠加作为近似的自旋轨道耦合的单粒子本征态。通常情况下,赝自旋1/2的玻色气体中两体相互作用是时间反演对称的,在考虑两体相互作用的情况下,我们进一步将系统的变分波函数设为两个单粒子本征态的叠加。这两个单粒子本征态是彼此的时间反演态,具有相反的总角动量磁量子数。变分计算的结果表明,弱三维自旋轨道耦合的赝自旋1/2的玻色气体的基态具有三维磁skyrmion自旋结构,与Kawakami等人最近的数值模拟所预言的结果一致[Phys. Rev. Lett.109, 015301 (2012)]。我们的解析结果揭示了由于自旋轨道耦合的存在,基态不可避免会混入p波空间模从而导致两个自旋分量的相分离,这正是三维磁skyrmion基态出现的原因。除此之外,我们还发现由于相同和不同自旋分量之间两体相互作用的竞争会导致两种不同的磁skyrmion相,区别在于它们具有不同的密度分布对称性。其中之一的密度分布具有宇称对称性和旋转对称性,而另一相的密度分布只有在时间反演和π转动的联合操作下才具有不变性。我们的结果还预言当相互作用增长超过-临界值时,系统会发生两种磁skyrmion相之间的相变,相变伴随着密度分布的显著变化,而三维磁skyrmion自旋结构的拓扑性质不受影响。第二部分,研究了Weyl自旋轨道耦合的自旋1的玻色气体的基态。我们研究了囚禁在外部谐振子势阱中的弱的Weyl自旋轨道耦合的自旋1的玻色气体的基态,得到了其基态相图。我们发现依据密度-密度和自旋-自旋相互作用强度的的大小,玻色气体凝聚在两个不同基态相,分别为磁性相和向列相,这一点与无自旋轨道耦合时的情形一致。不同之处有二：其一,无自旋轨道耦合时,磁性相和向列相分别对应负和正的自旋交换相互作用强度,自旋交换相互作用强度为零是两相的边界。当存在自旋轨道耦合和外部的囚禁时,磁性相和向列相的边界将会被修改。其二,我们发现磁性相的特征是三个自旋分量的密度分布呈相分离的状态,基态是三维的磁skyrmion,存在相互竞争的磁序和双轴向列序。向列相的特征为三个自旋分量的密度分布总体上是相容的,基态没有自发磁化,仅显示空间调制的单轴向列序。