我国是世界上煤与瓦斯突出最严重的国家之一。近年来,随着开采深度的增加、瓦斯压力的增大和开采条件的日趋复杂,煤与瓦斯突出发生的强度及造成的伤亡不断增长,煤与瓦斯突出的预测和防治工作形势十分严峻。煤与瓦斯突出机理的综合作用假说表明,煤与瓦斯突出是地应力、瓦斯压力和煤岩的物理力学性质三者的综合作用结果。在煤与瓦斯突出过程中,主要是含瓦斯煤岩的力学性质、蠕变特性以及渗透特性对突出的发生和发展在起作用。因此研究与这些内容相关的含瓦斯煤岩的本构模型及破坏准则,对进一步揭示煤与瓦斯突出机理和防治煤与瓦斯突出有着十分重要的作用。本文基于前人的研究成果,利用实验研究、理论分析和数值模拟相结合的方法,旨在建立符合含瓦斯煤岩特性的本构模型和失稳准则,并利用实验结果对之进行验证。本文的主要研究成果如下:①利用自主研制的含瓦斯煤岩三轴蠕变瓦斯渗透装置与材料试验机组成的实验系统,对含瓦斯煤岩的力学性质、蠕变特性和渗透特性进行了系统深入的实验研究。在含瓦斯煤岩力学性质的实验研究中,分析了围压和瓦斯压力对含瓦斯煤岩变形特性和抗压强度的影响,得出了相关规律;分析总结出了含瓦斯煤岩三轴压缩下的破坏形式。在含瓦斯煤岩蠕变特性的实验研究中,根据实验结果总结出了含瓦斯煤岩蠕变规律;详细分析了含瓦斯煤岩衰减蠕变阶段和稳态蠕变阶段的蠕变变形和蠕变速率,得到了偏斜应力、围压和瓦斯压力三者对蠕变速率的影响规律;分析总结出了含瓦斯煤岩加速蠕变阶段的启动条件及该阶段的蠕变速率特征。在含瓦斯煤岩渗透特性的实验研究中,根据实验结果总结出了围压和瓦斯压力对含瓦斯煤岩渗透率的影响规律,分析了Klinkenberg效应和应力-应变全过程对含瓦斯煤岩渗透率影响,并得出了一些有价值的分析结果。②基于实验结果,利用模型辨识方法得到了描述含瓦斯煤岩粘弹性流变特性的最适合流变模型为伯格斯体;提出了一种能反映含瓦斯煤岩加速蠕变的改进的粘弹塑性模型,将之与伯格斯体一起组成了一维含瓦斯煤岩的非线性粘弹塑性流变模型,进而推导得出了含瓦斯煤岩三维非线性粘弹塑性流变模型,并利用实验结果进行了验证;利用常微分解的稳定性理论,对含瓦斯煤岩非线性粘弹塑性流变模型进行了稳定性分析,得到了含瓦斯煤岩的流变失稳条件。③在不可逆热力学框架内,利用连续介质损伤力学方法建立了用以描述含瓦斯煤岩的弹塑性变形、瓦斯吸附效应、体积膨胀、围压敏感、弹性模量的退化、各向异性损伤、应变强化及软化、非关联塑性流动等物理现象及力学行为的弹塑性耦合损伤本构模型,并对之进行了实验验证。④在多孔介质有效应力原理中引入了煤岩吸附瓦斯的膨胀应力,建立了含瓦斯煤岩的固气耦合动态模型,该模型不但考虑了含瓦斯煤岩在变形过程中孔隙度和渗透率的动态变化特征,而且还反映了瓦斯气体可压缩性和煤岩骨架可变形的特点,从而更真实全面地反映了含瓦斯煤岩的固气耦合效应;利用COMSOL-Multiphysics有限元软件根据所提出的含瓦斯煤岩的固气耦合本构模型建立了有限元模型,得到了含瓦斯煤岩固气耦合动态模型的数值解,同时还分析了Klinkenberg效应对含瓦斯煤岩渗透率的影响。⑤利用初等突变理论建立了基于试验机-试样分析系统的含瓦斯煤岩蠕变破坏的尖点突变失稳模型,得出三轴压缩条件下含瓦斯煤岩蠕变失稳破坏条件。⑥在总结国内外关于岩石类材料的强度准则及实验结果基础上,提出了一种符合含瓦斯煤岩三轴应力条件下变形的强度判据,该判据不但能描述三轴压缩下中间主应力的影响及含瓦斯煤岩非线性应变强化特征,而且还可以描述含瓦斯煤岩的拉伸破坏。