光学信息安全是光学信息处理研究中一个新兴的研究方向,也是信息科学中一个重要研究课题。目前主要的光学信息安全技术是基于光学变换通过随机密钥算法来实现,因此探索新型的变换和加密算法对于光学信息安全技术的发展具有重要的理论意义和实用价值。近年来,分数傅立叶变换及其在信息处理领域中的应用研究是国际学术界的一个热点研究方向。分数傅立叶变换不仅成为了光学信息处理和数字信号处理等领域的一个重要数学工具,而且由其分数阶次的概念可以派生出许多新型的分数阶变换。这些新型的数学变换在数字信号处理、数字图像处理以及光学信息处理等领域的研究中将具有重要应用价值。本论文在分数傅立叶变换的基础上,提出了多种新型的分数阶变换以及图像加密算法,并研究了复数阶傅立叶变换的物理诠释以及中空高斯光束的生成等问题,具体研究工作概括如下:提出了离散分数阶随机变换的概念。我们详尽地分析了离散分数傅立叶变换的核矩阵,发现其本征向量矩阵和本征值矩阵具有相对的独立性。因此,我们随机化了分数傅立叶变换的本征向量得到了离散分数随机变换。这种离散分数随机变换的变换结果是随机的,但同时保持了分数傅立叶变换的良好数学性质,如线性性、阶数可加性、幺正性、周期性和能量守恒等等。基于它的随机性,离散分数随机变换本身可以直接用于数字图像加密。在离散分数随机变换的基础上,我们定义了离散分数随机正/余弦变换。离散分数随机正/余弦变换具有和离散分数随机变换相同的性质,同时它们能保持奇偶信号的对称性。这个性质可以被用来重构离散分数随机变换,用离散分数随机正余弦变换重构的离散分数随机变换的计算量比一般的离散分数随机变换的计算量要减少一半。事实上,离散分数傅立叶变换的本征向量矩阵也可以任意改变。我们采用递归的方法,通过一个角度参数递归得到一组本征向量,并由此定义了离散分数角度变换,该变换可以应用于快速的数字信号处理。提出了随机傅立叶变换和随机分数傅立叶变换。根据分数傅立叶变换本征值的多样性,直接随机化分数傅立叶变换的本征值,我们给出了随机傅立叶变换的定义和数学描述,并采用4f系统随机位相滤波给出了该变换的光学实现方案。基于分数傅立叶变换光学实现的物理过程,我们提出了光学随机分数傅立叶变换。该变换实现了分数傅立叶变换核函数的随机化,光学图像加密可以直接采用随机分数傅立叶变换来实现,传统的双位相随机编码加密算法可以由随机分数傅立叶变换级联来描述。提出了几种新型的图像加密算法。我们分析了基于哈特雷变换的图像加密算法的安全性和光学实现等问题,发现算法安全性低而且光学实现很困难;在此基础上我们提出一种基于随机哈特雷变换以及双随机振幅编码的图像加密方案,该算法对于裸解密和盲解密攻击均具有较高的安全性。基于对易和反对易关系提出一种光学图像加密算法,利用一维的傅立叶变换或分数傅立叶变换进行图像加密,给出了光学实现方案并证明了该算法的安全性。利用分数傅立叶变换域的位相恢复算法研究了双图像加密算法,该算法可以将两个图像直接加密到两个不同级次的分数傅立叶域中。同时这个算法可以扩展为分数阶复用的多图像加密算法。另外我们采用多图像中心频谱平移和双随机位相编码提出了一种多图像加密算法。提出了两种简单实用的图像分存算法。我们基于组合数学理论给出一种图像分存方法,该方法可以简单有效地实现(t,n)门限并具有很高的安全性。基于离散分数随机变换以及线性方程组理论给出一种图像分存算法,该方法使用矩阵方程进行图像分存。研究了复数阶傅立叶变换的物理本性。我们详尽地分析了复数阶傅立叶变换的数学性质。采用Wigner分布函数的方法,证明了该变换的能量不守恒特性,并由此指出复数阶傅立叶变换不可能由一阶无损耗光学系统实现,纠正了学术界在光学实现复数阶傅立叶变换方面的某些误解。在此基础上,我们给出了纯虚数阶傅立叶变换对应于非相干光在均匀吸收介质中传播的物理诠释。提出了中空高斯光束的生成方法。根据傅立叶变换的微分性质证明了中空高斯光束可以通过傅立叶域空间振幅滤波的方法来生成,空间滤波器由厄米多项式的二项式组合构造。我们采用数值方法证明了我们所提出的方法并设计了两种利用4f系统制备中空高斯光束的方案。