图像作为一种特殊的数据形式,广泛存在于军事、外交、卫星通信以及人们的日常生活中。图像数据具有很多独特的性质,如数据是二维的,能量分布不均匀等,尤其是某些高分图像和遥感图像,数据量特别大,对这类图像的安全保护尤其需要较高的效率,而传统的密码技术并不适合。混沌密码技术的出现,为数字图像的安全保护提供了新的思路,同时性能良好的混沌系统实现效率高而花费代价小,并且软硬件实现方便,所以混沌密码技术非常适合于对数据量大的图像文件的安全保护。然而由于混沌密码的理论基础以及实现效率等问题,使得混沌图像加密在实用性等方面受到限制。如何针对理论基础和实用性问题,进一步研究混沌系统,设计出安全高效的伪随机序列产生及图像加密方案并将其有效的应用于实际生活中,成为混沌密码研究的突出问题。混沌伪随机序列产生和混沌图像加密是关系密切又相对独立的课题,通常的做法是将混沌序列离散化为伪随机序列,将其作为密钥流进行图像的加密。本文从理论研究和实用性的角度,对复数混沌密码和超混沌密码进行了研究,主要研究工作如下:对混沌系统的理论研究是保证混沌图像加密算法安全性的前提,但是当前很少有研究者根据混沌的定义而进行严格的数学证明,致使混沌的理论研究薄弱。针对这一问题,考虑到很多实际的非线性系统都是复变量系统,研究复数域上的混沌映射能够加强混沌的理论基础和实际应用价值,因此本文从理论的角度,在复数域这种更复杂的代数结构中对混沌映射进行了研究,构造并证明了复数域上的混沌映射,并在进一步研究中将其扩展为带参数的映射族,通过共形映射对其进行了严格的数学证明,并对其性能进行了分析。当前对复数域混沌的研究主要集中于同步,很少有关于复数混沌密码的研究。而实数域上的混沌映射,尤其是低维实数混沌映射容易出现性能退化问题,影响了混沌密码的实用性。复数域上混沌映射的动力学行为更加复杂,将其应用于密码算法中能够增加算法的状态变量个数,有助于提高图像保护的安全性,因此本文将已证明的复数混沌映射族应用于混沌密码中。首先利用复数混沌映射的概率分布特征,将复数混沌序列离散化为二值伪随机序列,然后将其作为密钥流对图像数据加密,实现了在复数域上对图像进行安全保护。在复数域上研究混沌图像加密为混沌密码的研究提供了一种新的思路。在很多实际应用中,由于混沌的类随机性和拓扑传递性等特征,使得人们希望一些非线性系统能够处于混沌状态,这使有目的的产生混沌,成为混沌研究的一个重要课题。本文针对这一实际需求,研究了微分超混沌系统的产生和性能分析问题,通过增加状态反馈控制器的方法构造了两个超混沌系统,分析了它们的动力学性能。它们都具有两个正的Lyapunov指数,且最大Lyapunov指数大于很多典型的超混沌系统,具有更显著的混沌行为。超混沌系统比普通的低维系统更加复杂,产生序列的随机性也随之增强,且一次迭代可产生多个序列,非常有利于提高伪随机序列产生和图像加密的效率。但是目前的超混沌图像密码算法大多存在所选系统Lyapunov指数不大,对序列性能分析不充分,以及对加密方案的理论依据阐述不清等问题,使得算法的安全性缺少说服力。本文针对这几个问题,首先选取前述提出的具有更大Lyapunov指数的超混沌系统来产生伪随机序列,序列产生过程中复合了Geffe逻辑来克服性能退化等问题,且系统一次迭代可产生多个比特,提高了算法效率,并对序列性能进行了充分的分析。将生成的伪随机序列作为密钥流来加密图像,在加密算法中最关键的非线性部件是有限域Z257上的动态S盒,对其理论依据进行了详细的阐述和分析。最后研究了超混沌密码在数字水印上的应用,利用超混沌伪随机序列对原始图像进行置乱会获得更均匀的分布效果,将其作为水印嵌入到原始图像中,每个图像块的信息保存在三个不同位置,使得水印算法具有良好的篡改检测和自恢复的功能。