图像加密是信息安全领域重要的研究课题。混沌系统对初始值和控制参数敏感等特点有助于提高图像加密方法的安全性。将它与加权酉变换类相结合实现在变换域上的图像加密对于图像加密系统的研究具有重要价值与理论意义。本文建立了加权酉变换类-混沌图像加密系统。该加密系统的显著特点是充分利用混沌系统对初值和控制参数依赖敏感、加权酉变换类变换参数空间维数高等性质，显著增加图像密码系统的安全性。此加密系统中使用的加权酉变换类是在变换域上图像加密的，能够有效地把明文主要信息在密文中均匀分布，则密文受到剪切或干扰性等攻击都能够重建明文主要信息，但其变换参数作为整个加密系统的密钥敏感性不如混沌参数强。将加权酉变换类与混沌系统结合实现在变换域上的图像加密，也能够有效克服混沌图像加密在空间域上生成的密文受到损坏后难于恢复明文图像主要信息的缺陷。因此，将加权酉变换类与混沌结合既弥补了各自的不足，也充分发挥了彼此优势。加权酉变换类-混沌图像加密系统的加密原理是：首先，对原始图像经过随机相位编码处理，使此系统转化为随机的非线性系统；其次，将随机编码结果进行加权酉变换，实现图像在变换域编码处理；最后，对上述编码密文用超混沌序列进行置乱，生成最终加密图像。本文在内容上，首先给出加权酉变换类和混沌系统的基本理论，重点阐述了变量阶数加权酉变换与Clifford超混沌系统，为加权酉变换类-混沌图像加密系统提供理论依据。其次，深入分析了加权酉变换类-混沌图像加密系统的安全特性。通过理论分析可知该加密系统具有以下优点：(1)加权酉变换类-混沌图像加密系统对以混沌参数形式出现的密钥非常敏感，即混沌参数微小变化将导致编码和解码效果差异显著；(2)该系统所用加权酉变换类的高维数参数向量作为系统密钥使密码系统的密钥空间维数得到大幅度提高；(3)密钥空间的极高维数使该密码系统对穷举攻击有很好的抵抗能力；(4)该加密系统是一个随机密码系统，特别是其解密过程具有极其复杂的非线性特性，系统安全性高。此外，本文还仿真研究了此加密系统的安全性与可靠性。在安全性分析中，从对该系统的密钥空间、密钥敏感性和统计攻击特性三方面进行了分析和验证；在可靠性分析中，对加密系统的抗干扰性和鲁棒性两方面进行了仿真与分析。数字仿真实验结果也表明：加权酉变换类-混沌图像加密系统是安全的、可靠的。综上，本文提出的加权酉变换类-混沌图像加密系统是安全可靠的图像密码系统。