信息技术的高速发展和信息交换的日益频繁使得网络通信无处不在，却也为信号的安全传输带来了不容忽视的威胁，无线通信的广播特性使得它在信号传输所覆盖的领域中很容易受到窃听。密码协议的巨大计算量保证了窃听者不能有效获得传输信息，因此提高了传统信息通信的安全性。然而科学技术的不断进步，使得以密码学为基础的安全机制也逐渐失效。如今，物理层安全通信技术成为实现及提高无线通信隐蔽性和安全性的新方向。　　基于随机过程键控的数字调制技术是一种新的安全通信技术，它通过选择两个不同的随机过程来实现信号的安全传输，在接收端通过同步操作后再解调出所传输的信息序列。本文的主要工作如下：　　1.研究了自回归过程键控系统，推导出自回归输出序列的概率密度函数和对数似然函数，并仿真验证其性能，结果表明自回归过程键控系统具有较低的误码率。本文接着使用 Levinson-Durbin算法、Burg算法和改进的自协方差法来估计自回归参数，并利用MATLAB仿真得出改进的协方差算法的误码率，仿真结果表明该方法不仅能够有效估计出自回归参数，而且在无噪情况下也具有良好的误码率性能。　　2.提出了使用相关系数调制的随机过程键控系统，该数字调制系统使用不同相关系数调制的随机载波序列来代表不同的二进制信息，在接收端，接收机将不同信道干扰下的载波序列送入相关估计器，并使用稳健性相关系数估计方法稳健估计出相关系数，从而恢复待传输信息。此外，该系统对在加性高斯白噪声信道和准静态衰落信道下的系统误码率进行了理论推导和分析，通过Matlab仿真验证系统性能，结果表明所提出的数字通信系统具有较低的误码率。　　3.同时本文针对随机过程键控系统提出了几种基于自相关函数的同步算法。当系统处于同步状态时，相关器输出峰值；而系统处于非同步状态时，相关器输出的电平非常小，这样有利于同步的判决。本文分别研究了基于伪随机序列、高斯随机过程和完备高斯整数序列的同步算法，并仿真验证其性能。本文随后推导出基于伪随机序列和高斯随机过程的同步概率公式，而基于高斯整数序列的同步算法，由于高斯整数良好的自相关性能和互相关性，它的同步性能优异，而且高斯整数序列的相关计算简便，系统选择灵活，可以使用任意长度的双素数周期序列来构成低零相关区高斯整数序列集并进行同步运算。