无线光通信是一种新型通信方式,结合了光通信与无线通信的优点:不但具备光载波的带宽容量,又兼具射频通信的灵活性。没有射频辐射,不需敷设光纤。可作为当下5G和6G通信的频谱资源补充以缓解不断加剧的频谱资源紧张问题。此外,无线光通信可满足特种通信需求应用于特殊场合。所以,对无线光通信的研究具有重要价值。无线光通信研究处于发展阶段,尚有一些关键技术问题有待解决。本论文以国家自然科学基金项目等科研任务为依托,对无线光通信的关键技术展开理论研究和实验验证,主要创新工作如下:第一,探索了以紫外光作为新波段的深空无线光通信方式,建立了一种天基紫外光通信的信道模型,理论分析得出宇宙环境中Kbps量级百公里紫外光通信具有可行性,并给出了保持通信链路有效性的建议。第二,建立了一种考虑多径效应的地面紫外光通信的信道模型,分析了不同天气状况下紫外光大气传输特性,推算了典型收发仰角情况下速率为10Kbps的最远通信距离,并结合实验进行了验证。第三,针对无线光通信易受杂散光影响而多层薄膜滤波片效果不好的问题,兼顾无线光通信系统的体积小、功耗低和性能高等要求,设计了一种基于微环谐振腔结构的高品质因子（Q值）滤波器。以红外波段无线光通信为例,仿真分析得出了结构参数对滤波器性能的影响并反馈优化了谐振腔结构参数以提高Q值:单微环耦合双波导谐振腔结构在耦合距离为100nm时实现趋近于临界耦合状态;串联双微环谐振腔结构的两环周长比为2时产生谐振分离特性;并联双微环谐振腔结构在两环均处于欠耦合状态且两环之间存在微小失谐情况下可实现耦合谐振诱导透明效应（CRIT）,以及该结构的两环中心距离、耦合距离和波导材料折射率变化对CRIT谐振峰产生的影响。通过实验初步测试了谐振腔滤波器的可调谐、高Q值等特性。第四,设计了一种面向无线光通信应用的蓝光有机化合物LED（蓝光OLED）新型光源,实验结果表明,该光源的化合物分解温度和玻璃化转变温度分别为395℃和145℃,启亮电压为3.5V,最大电流效率为6.51cd A-1,最大外量子效率为3.85%,最大亮度为14362cd m-2。与传统光源相比,该光源具有更好的热稳定性和光致发光特性,在高亮度下表现出低轨降,可提供良好的能量传递和稳定的发光性能。