对复杂动力学系统的研究正受到包括物理学家在内的不同领域研究者的广泛关注。对物理学家而言,在稳态或近似稳态的条件下,系统的动力学性质可以通过时间和空间关联函数刻画。然而,在现实世界中,动力学系统由于其内部及其与环境之间相互作用的复杂性,会呈现一系列非稳态的特征。此时,系统通常处于远离稳态的位置,相应地,对于时间和空间关联函数的计算会受到非稳态动力学效应的阻碍。若不考虑这一效应,大多数时间关联会为零或非常弱,空间关联随时间的演化则常常不稳定。因此,本文的主要目的之一是探讨如何在考虑复杂系统非稳态动力学效应的情况下计算时空关联函数,并通过微观建模研究其背后的机制,为控制和预测系统行为提供新的见解。复杂网络为抽象化描述不同类型的复杂系统提供了通用框架,这一方式有助于发现各类复杂系统中存在的普遍规律。在对复杂网络拓扑结构的研究基础上,网络的结构如何影响其中的动力学过程进而影响系统功能正成为近年来备受关注的课题之一。研究表明,复杂网络的耦合结构对其响应外界扰动的方式以及功能均有重要影响。对于这一问题的探索将有利于理解网络结构与功能之间的相互作用机制,以及其中的动力学演化过程。本文以复杂金融网络为例,结合随机矩阵理论,研究了网络拓扑结构随时间演化的稳定性。在第1章中,我们简单介绍了复杂系统的特征,聚焦于复杂系统的非稳态动力学性质,并介绍了较为常见的非平稳时间序列处理方法。在复杂系统的空间结构方面,则引入复杂网络的方法进行刻画,并概述了与网络拓扑结构及其动力学稳定性相关的研究进展。最后给出本文的主要研究动机和内容。在第2章中,我们将复杂系统非稳态时间关联函数的计算方法推广到一般形式,并通过微观模型研究了时间关联函数背后的潜在机制。复杂系统处于非稳态的典型表现之一是动力学涨落的长程关联,说明即便是在较长时间尺度内平均后的涨落依然会随时间演化。这一非稳态效应的存在使得我们无法用通常的时间关联函数来描述系统的动力学性质。我们研究了几类典型的复杂动力学系统,例如金融,社会,生物,气象系统等等。结果表明,在考虑了系统的非稳态动力学效应之后,涨落对系统的动力学行为存在驱动作用。我们通过构建微观模型模拟复杂系统的动力学行为,并引入两项机制:系统状态上升-下降时的不对称聚集以及系统状态波动-平稳时的不对称运动。通过微观建模并结合传递熵分析,我们深入研究了涨落驱动的系统动力学行为及其物理意义。在第3章中,我们以复杂金融系统为例,对第2章中所发现的考虑系统非稳态特征的涨落驱动效应进行了进一步的探讨。我们研究了系统状态对该效应的影响,并构建了基于涨落驱动效应的交易策略。我们发现了效应强度与策略表现之间的联系,并将该策略与其它普遍已知的交易规则进行了比较。通过构建交易策略,我们为研究复杂系统的动力学行为提供了一个良好范式,说明涨落驱动效应具备理论和实践的双重价值。在第4章中,我们对复杂系统空间结构的稳定性进行了研究。通过引入复杂网络方法并结合随机矩阵理论,我们找到了表征网络结构稳定性的相互作用模式:市场模式,这一模式代表了各节点之间的全局相互作用。我们的研究表明通过从原始相关矩阵中抽取市场模式,能增强整个网络结构随时间演化的稳定性,该结果对于中西方金融市场均能成立。在此基础上,我们构建了一个资产组合优化策略,证明了网络结构的稳定性对其功能存在显著影响。在第5章,我们对本文的主要结果进行了总结,并展望了未来可能的研究方向。