复杂系统与复杂性科学被誉为21世纪的科学，是受广泛注意的新型交叉学科。复杂系统中基本单元的相互作用必然导致其描述的数学模型具有非线性这个共性，非线性科学的兴起来自于对这个共性的研究。随着混沌动力学领域的基础理论的建立及重要结果的获得，非线性科学已进入了一个新的天地。本文的主要内容包括以下四个方面：　　 1.对于混沌系统的控制问题，考虑到控制系统能量限制的要求，首先确立一个二次目标函数，然后给出了求解最优控制律的两个方法。方法一通过求解线性二次最优控制问题，获得了混沌系统的最优控制律，利用Lyapunov方法证明了闭环系统的稳定性。方法二提出了一种两级算法，把混沌系统分解为线性部分和非线性部分。上级算法对混沌系统中的非线性部分进行预估，并把整个原系统变为带有常数项的线性系统：下级算法用极小值原理解决这个非典型线性二次最优控制问题，并把解返回上级算法，上级算法根据下级的解对非线性部分重新预估。这样通过两级间不断的信息交换，最终得到混沌系统的最优控制律。数值仿真结果表明了控制策略的有效性。　　 2.本文利用反馈控制的思想和方法，对复二次函数迭代设计合适的反馈项，实现了对二次函数的Julia集的有效控制。因为系统的吸引不动点的吸引域的边界是Julia集，所以也实现了对系统的不动点的吸引域的控制。　　 3.根据微分方程稳定性理论和一类混沌系统的结构，得出了一类混沌系统同步的充分条件；讨论了在系统参数已知的情况下相同或不同结构系统的同步控制器设计，给出了相应的控制器的设计方法。借鉴自适应控制的思想，依据Lyapunov稳定性理论和LaSalle不变原理，给出了系统参数未知的情况下相同或不同结构系统的同步控制器设计，给出了相应的控制器和参数自适应律设计的一般方法，并给出了相应的数值仿真。　　 4.针对耦合网络系统同步问题进行了研究，讨论了采用牵制控制策略实现复杂网络系统的同步问题，给出局部控制律的设计方法。研究了星形网络系统的牵制控制问题，得到了比较具体的结论，并给出了相应的数值仿真。　　 5.研究了经济混沌系统的控制与同步问题。利用控制理论的方法分别对一类金融混沌系统的控制和房地产投资系统的同步，基于Lyapunov稳定性理论得到了控制律，理论分析和数值仿真验证了控制策略的有效性。