随着信息和通讯技术的迅猛发展和广泛应用,信息安全已经成为信息时代一个不可或缺的重要问题。在对信息安全的核心技术之一—密码学的自主性研究与开发中,元胞自动机因其特有的组成结构的简单性、组成单元之间相互作用的局部性、信息处理的高度并行性和复杂的动力学特性,使其在密码学领域有着独特的优势,具有重要的理论意义和广泛的应用前景。本论文在研究元胞自动机理论和分析现有的元胞自动机加密算法的基础上,针对元胞自动机在密码学不同领域的应用,对多层元胞自动机和可逆元胞自动机构造分组密码、公钥密码的方法进行了相关的研究和探讨,取得的主要研究成果和创新点如下:1.针对已有的基于多层可逆元胞自动机的分组加密算法密钥结构简单,且扩散性效果不理想的缺陷,利用多层元胞自动机的结构特点,引入层内和层间半移位变换,以及具有随机性的全局移位变换,设计了一种新的多层可逆元胞自动机分组加密算法。该算法增强了层与层之间的联系,表现出更复杂的动力学行为,仿真实验结果表明,该算法提高了密文对明文和密钥的敏感性,具有良好的扩散性和混淆性效果。2.针对可逆元胞自动机数量稀少的问题,设计了一种可逆元胞自动机的构造方法,在此基础上,构建了一种基于可逆元胞自动机的反向迭代分组加密算法。该算法充分利用了多层元胞自动机的层状结构优点,在层与层之间进行交叉异或运算,并引入伪随机序列,反向演化实施加密,前向迭代实施解密。仿真结果表明,该算法具有良好的扩散性和混淆性,而且密文和随机序列是不可区分的;这些性质确保了提出的加密算法能够抵抗统计分析、线性分析和差分分析攻击。3.在分析图像数据的结构与八层元胞自动机关系的基础上,提出了一种新的基于多层元胞自动机的图像加密方案。该方案是反向迭代的分组加密算法的扩展和应用,同样的引入了伪随机序列和伪随机数,但是本算法中对伪随机序列又进行了随机演化,而且利用伪随机数控制加密过程中不同层之间的交叉运算,使得密图中的像素分布更具随机性。详细的实验表明该算法具有足够大的密钥空间,加密后的图像像素分布均匀、相邻像素的相关性低,并且对密钥和明文非常敏感,即该算法是安全的,且具有良好的性能。4.在研究了一种已有的基于可逆元胞自动机理论的公钥加密算法的基础上,借助于多层元胞自动机定义了一种新型的邻域结构,进而设计出基于多层元胞自动机的公钥加密算法。利用可证明安全理论,可以证明该算法是安全抵抗选择明文攻击的,弥补了其他元胞自动机公钥加密方案的不足.,并且,利用随机预言模型,还可以将其改进成可以安全抵抗选择密文攻击的公钥加密算法。对密钥空间的分析以及仿真实验结果表明,本算法相较于RSA-1024加密算法具有高效性。5.尝试利用元胞自动机理论构建数字签名算法,在上述公钥加密算法的基础上,设计了一种基于多层元胞自动机的数字签名算法,弥补了元胞自动机在数字签名上的空白。该算法选取可逆的一维元胞自动机作为私钥进行签名,构建出的二维规则作为公钥进行签名的验证。此算法是一个随机算法,元胞自动机的状态数和一维元胞自动机的个数以及二维元胞自动机的邻域半径均是不固定的,可以依据实际应用随机设定。基于二维元胞自动机可逆性的困难性假设,本签名算法在随机预言模型下被证明能够在适应性选择消息攻击下抵抗存在性伪造。