本文运用理论分析、数值模拟和现场测试研究为一体的方法对煤与瓦斯突出的耦合灾变机制和非线性特征进行了研究。利用ANSYS/LS-DYNA软件的隐式-显式分析功能对应力波作用下巷道围岩的响应进行数值模拟，研究了应力波对煤与瓦斯突出的诱发作用。在应力波的作用下，巷道围岩中交替出现拉应力和压应力，随着应力波峰值的增大，巷道围岩的应力数值出现不同程度的增大。层裂体的形成和失稳破坏是煤与瓦斯突出发动的基本环节。运用断裂力学、有限元方法和自组织理论研究了瓦斯压力和应力波作用下单裂纹的扩展、相邻裂纹的贯通和层裂体的形成机理。研究发现，相邻的平行裂纹较易发生剪切贯通破坏和拉伸贯通破坏，影响裂纹贯通的因素有裂纹倾角、排列方式和间距；将卸载拉应力和瓦斯应力场产生的拉应力视为广义驱动力，探讨了裂纹演化过程中的非线性特征，统计表明，裂纹的长度与产生频率遵守幂率规则。将煤与瓦斯突出的过程简化为层裂体在地应力与瓦斯压力的耦合作用下发生失稳的过程，对层裂体失稳的准静态过程进行了折迭突变分析，计算了煤与瓦斯突出时释放的能量和煤与瓦斯突出的强度；给出了双曲扁壳层裂结构的动力学方程的统一形式，发现随着动力扰动和瓦斯压力的增大，层裂体的演化经历了从周期1、周期2、周期3到混沌的过程。进行了煤与瓦斯突出的混沌动力学唯象研究，基于现场实测数据识别出煤与瓦斯突出孕育过程中的混沌吸引子，利用C-C方法计算了时间延迟和嵌入维数，发现有突出危险的瓦斯浓度监测序列的△(?)-τ_s曲线与无突出危险的△(?)-τ_s曲线存在明显的不同；计算了关联维数和最大Lyapunov指数，发现突出的危险性与瓦斯浓度时间序列的关联维数和最大Lyapunov指数有较强的关联性。基于混沌理论，对煤与瓦斯突出孕育过程中的监测数据序列预测方法进行了研究，研究表明，全域法、零阶局域法的预测精度较低，而一阶加权局域法和基于Lyapunov指数的预测方法预测精度较高。