离散分数傅立叶变换(DFRFT)和离散分数哈特里变换(DFRHT)是经典离散傅立叶变换(DFT)和离散哈特里变换(DHT)的推广。通过分数阶数的引入,DFRFT和DFRHT提供了比DFT和DHT更加丰富的信号时-频表达形式。特别是在光学信息处理的研究中,离散分数傅立叶变换提供信息的非焦面处理能力,为光信息处理带来了极大的方便。本文的主要工作是,首先研究了DFT和DHT的特征值和特征向量的性质,由于在此之前的DFT和DHT都无法给出变换矩阵的确定形式,本文通过增加约束性条件,给出了一种表达形式唯一的DFT和DHT。然后,引入分数阶数,建立了基于上述方法的DFRFT和DFRHT,给出了它们的转换关系。接下来,分析了这两种新定义的离散分数阶变换的性质,并且发现,本文提出的DFRFT和DFRHT除了具有以前离散变换所具有的绝大部分性质外,还可以按照角度分解得到一种表达形式。由于DFRFT在光学上是可以通过透镜实现的,这种表达形式将在光信号处理领域得到新的应用。最后,将本文提出的DFRFT和DFRHT应用于光学图像加密。传统的光学图像加密方法给出的加密和解密过程简单、加密键单一、安全性不高。而基于本文提出的DFRFT和DFRHT理论,给出了一种将加密键数量提高到与图像大小相同的加密方法,这样大大提高了图像加密的安全性。同时数值模拟显示这种方法并不增加计算的复杂度。