随着网络多媒体技术、通信技术和传输技术的快速发展,信息安全成为人们不容忽视的问题。图像作为一种有效的信息载体,由于其生动形象等特点被广泛应用于各领域,因此图像安全是信息安全的一个重要研究方向。图像加密是保证图像安全的一种有效手段。目前,已提出一系列光学图像加密方法和数字图像加密方法,其中基于分数傅里叶变换的图像加密技术是近年来的研究热点,引起了研究人员的极大关注。然而,大部分基于变换的典型图像加密系统都是线性系统,与非线性加密系统相比,线性加密系统的抗攻击性比较弱。这是由于线性加密系统中明文、密文、密钥之间的函数关系相对较简单,无法有效抵抗选择明文攻击、已知明文攻击等常见攻击。为了解决这个问题,本文将分数梅林变换引入图像加密技术。作为一种非线性变换,分数梅林变换能有效增强加密系统的安全性,同时作为一种分数阶变换,它能像分数傅里叶变换样将分数阶次作为密码系统的密钥。本文具体研究工作概括如下：提出了基于分数梅林变换的图像加密算法并给出了相应的光学实现装置。在该非线性图像加密系统中,原图像的不同环域部分经过不同阶次的分数梅林变换,输出一系列复值子图像,这些子图像经过迭代得到最终的密文图像。迭代过程涉及分数傅里叶变换、幅度编码以及相位编码。分数梅林变换的非线性性质使得加密系统能有效抵抗已知明文攻击、选择明文攻击、选择密文攻击和唯密文攻击等常见攻击。此外,分数梅林变换阶次、实施分数梅林变换的环域外半径以及迭代过程中产生的相位模板可作为密钥,提供了很大的密钥空间。构造了多阶数离散分数梅林变换,提出了基于多阶数离散分数梅林变换的图像加密算法。在对数—极坐标系中对图像实施多阶数离散分数傅里叶变换,即可得到该图像的多阶数离散分数梅林变换结果。其中,多阶数离散分数傅里叶变换是通过用阶数向量代替离散分数傅里叶变换的解析表达式中的分数阶次而构造的。多阶数离散分数梅林变换改善了分数梅林变换阶次灵敏度不高的弱点,并且能够提供更多的参数作为密钥,同时多阶数离散分数梅林变换能够通过快速傅里叶变换进行计算,减小了计算负担。仿真结果表明该加密方法有较强的抗攻击性,密钥灵敏度高,且具有良好的鲁棒性。构造了保实分数梅林变换,提出了基于保实分数梅林变换的彩色图像加密算法。由于分数梅林变换的结果为复值,复值图像的相位信息必须用全息技术进行记录,这使得密码系统变得复杂,为了解决这个问题构造了保实分数梅林变换。对于实值的输入,保实分数梅林变换的输出也是实值,确保了密文图像的实值性,使图像便于显示、存储以及传输。加密过程中,通过旋转色彩立方体使原彩色图像从RGB彩色空间转换到R’G’B’空间,对三个新的颜色分量分别进行不同阶次的保实分数梅林变换,再对上述变换结果进行三维置乱即可得到彩色密文图像。保实分数梅林变换的分数阶次、彩色空间的旋转角度以及三维置乱中四个种子参数都可以作为加密系统的密钥。数值仿真结果验证了该加密方法的可行性、有效性以及安全性。最后将三幅灰度图像看作特殊的彩色图像的三个分量,利用该彩色图像加密算法实现了三幅灰度图像的加密。