塑料光纤(POF)纤芯粗、柔韧性好、价格低廉、材质耐用、抗电磁干扰、易于安装和建设成本低,得到了越来越多的关注,有望取代传统媒质成为短距高速数据通信的理想介质。然而,POF色散大、带宽有限,又成为高速数据传输的主要障碍。如何降低衰减、提高带宽,对POF通信具有非常重要的实用意义。本文主要从数字信号处理角度,探索先进的具有较强抗衰落能力的信号传输方案和处理算法,以克服POF的带宽瓶颈限制,达到提高POF传输速率、扩充系统容量和改善传输性能的目的。结合聚甲基丙烯酸甲酯阶跃折射率塑料光纤(PMMA-SI-POF)的传输特性,重点讨论了高效数字调制技术、传输容量提升、传输带宽优化和系统非线性等方面的问题。针对影响多元位置相移键控(MPPSK)调制信号功率谱旁瓣电平的线谱杂散,分析了MPPSK信号的频谱特性,找出线谱分布规律,提出波形优化法和多元满位置法来抑制线谱杂散；设计了两类不同的解调器对两种功率谱优化后的MPPSK信号进行解调；从功率谱特性和解调性能方面,对两种方法进行了仿真验证和分析,结果表明,优化后的MPPSK调制信号线谱被抑制,调制带宽得到了紧缩,在较低的信噪比(SNR)环境下依然具有优异的误码率(BER)性能,且在相同的BER指标下,波形优化法要比多元满位置法节省0.3dB～0.7dB的能量,表明了两种方法的有效性和可行性。SI-POF具有类似低通滤波器的传输特性,信号在高频率传输区域具有较大的衰减,导致该区域内的通信能力和通信质量受限。将S I-POF的传输频带划分为两个区域,利用MPPSK的低功耗特性,提出了一种基于离散多音频调制(DMT)和MPPSK调制的融合传输方案；为了减小MPPSK的信号旁瓣对DMT相邻边带的干扰,提高DMT的抗干扰能力,在频域内使用了Hadamard序列对映射符号进行扩展。50m的SI-POF传输实验表明,在1×10-4的BER指标下,DMT-MPPSK在原先废弃的低SNR区域内实现了速率为39Mbps的额外MPPSK数据传输,充分利用了有限的信道资源,在同等功耗条件下进一步提升了POF的传输能力。针对未编码的SI-POF通信系统的传输容量计算问题,分析了理想最优和实际传输的DMT子载波功率分配；从降低系统实现的复杂度方面考虑,在均匀功率谱密度输入的约束下,对SI-POF的IM/DD通信模型进行了数学分析；基于高斯低通和一阶低通的POF信道模型,给出了基于信噪比间隔的最大可传输容量和最优使用带宽的计算模型。借助数值计算研究了系统的传输带宽和信道容量,理论计算和50m的SI-POF传输实验表明了该计算方法的准确性,使用优化的传输带宽可以提高系统的最大可传输速率。该计算方法可有效地用于SI-POF通信系统的容量计算和传输带宽优化。针对DMT信号峰均比(PAPR)较大的缺陷,首先理论分析了Nyquist采样和过采样条件下DMT信号的PAPR统计分布。基于Jacket矩阵求逆简单、构造便捷的优点,提出了一种Jacket矩阵扩展的JS-DMT传输方案,减小了原始频域符号的非周期自相关性,进而可以有效地降低时域信号的PAPR值。分析表明JS-DMT具有优异的功率谱(PSD)和BER性能,且兼备了低复杂度的优点。为了克服JS-DMT的通信性能受POF传输带宽影响较大的缺陷,提出了一种基于子带分割的新型多带(MB)JS-DMT传输方案。该方案将POF传输频带划分为多个子带,并在子带内对调制符号进行Jacket矩阵扩展,以避免了JS-DMT中整个频带内SNR是恒值的现象发生。实验表明,MB-JS-DMT克服了JS-DMT的带宽敏感性,扩展了可用传输带宽,提高了最大传输速率。但其传输性能与子带分割有关,子带个数的选择需要在PAPR抑制、BER性能、传输速率和系统复杂度之间折中选择。理论分析与实验表明了MB-JS-DMT的可靠性和可行性,该传输方案更适用于实际POF传输系统。为改善SI-POF通信系统中RCLED的非线性失真,分析了该非线性对DMT传输性能的影响。结合实测数据,对RCLED的静态传输特性进行多项式拟合,建立了一种适用于POF通信的RCLED传输模型,分析了直流偏置点和电信号功率的选择对传输性能的影响。为缓解RCELD的非线性效应,设计了基于多项式数字预失真和LUT数字预失真的DMT传输方案。结果表明：即使在较为严重的非线性畸变情况下,系统仍然可以保持较好的通信性能,比原始DMT传输取得了将近10dB的BER增益,展现出较强的抗非线性干扰的能力。