超快被动锁模光纤激光器具有光束质量高、稳定性好、无需准直、系统紧凑、结构简单等优点,在通讯、工业加工、国防、生物医学等领域具有重要应用。可饱和吸收体是被动锁模光纤激光器中的关键器件,它要求非线性材料具有大的工作带宽、快的响应、低的损耗和稳定的物化特性。除此之外,调制深度也是可饱和吸收体的关键参数之一,高的调制深度可以消减脉冲边缘的效果,有利于获得超短脉冲,而且可以有效提高超快激光器的稳定性。随着材料制备及激光技术的迅猛发展,从染料到半导体可饱和吸收镜（SESAM）,可饱和吸收体的发展推动锁模激光器朝着高功率、高光束质量、超短脉冲的方向快速发展。但是,SESAM制备工艺复杂,成本高且应用波段窄,限制了锁模激光器的发展。以石墨烯为代表的二维材料为超快光纤激光器的发展提供了机遇。石墨烯是一种由碳原子组成的呈六角型蜂巢晶格的二维材料,其独特的零带隙能带结构赋予其宽带吸收特性,并且已经成功应用于不同工作波长的被动锁模光纤激光器中。但是,石墨烯的调制深度有限,一定程度限制了锁模光纤激光器的输出性能。黑磷的结构与石墨烯的层状结构相似,但与石墨烯具有零带隙不同,二维黑磷材料具有0.3～1.5 e V随材料厚度可调节的能带结构,可以用于调制不同波段的锁模光纤激光器。但是,黑磷物化性质不稳定,极易在空气中水解与氧化,这阻碍了黑磷的实际应用。伴随高性能超快光纤激光器的应用需求,亟需寻找具有超快响应、宽波段吸收、性能稳定的可饱和吸收器件。VA族元素即为元素周期表中的氮族元素,包括氮（N）、磷（P）、砷（As）、锑（Sb）、铋（Bi）等元素。与黑磷不同,VA族中的其他元素由于具有显著的带隙,独特的物理特性和高稳定性,有望成为电子学、光电子学、自旋电子学和热电应用中具有前景和竞争的候选材料。本论文围绕超快响应、宽波段吸收、性能稳定的可饱和吸收体的应用需求,重点研究了与黑磷同族的其他VA族单质半导体材料,并成功实现了稳定、宽波段的超快光纤激光输出。论文的主要工作如下:（1）通过液相剥离法制备了黑磷量子点,基于Z扫描技术测量了黑磷量子点的三阶非线性光学特性,并获得了黑磷非线性光学参数。将其转移到D型光纤作为可饱和吸收体,引入到环行激光腔中,获得了1μm波段和1.5μm波段的脉冲激光输出。实验证明了黑磷纳米片可以用作宽带非线性光学调制器在多个波段产生激光脉冲,同时也表明由于黑磷本身物化性能的不稳定难以实现长时间稳定的激光脉冲。（2）研究了锑薄膜的宽带超快非线性光学特性,发现锑薄膜具有大的调制深度和皮秒量级的响应时间,并基于锑薄膜实现了稳定工作的光通信波段飞秒光纤激光和在中红外波段调Q纳秒光纤激光输出。通过气相沉积法获得了厚度为12.8nm的锑薄膜,测量并获得了锑薄膜在800到1930 nm光谱范围内的非线性可饱和吸收特性。将生长在衬底上的锑薄膜转移到D型光纤上作为可饱和吸收体,接入到掺铒光纤环形激光器中,获得了脉冲持续时间为936 ns的调Q脉冲与持续时间为753 fs的锁模脉冲。此外,基于锑薄膜可饱和吸收体,成功获得了在中红外波段持续时间为824 ns的稳定调Q脉冲输出。（3）研究了铋薄膜的宽带非线性光学特性,发现铋薄膜具有大的调制深度、低的饱和光强和超快的响应特性,并基于铋薄膜实现了稳定工作的光通信波段飞秒光纤激光和中红外波段调Q光纤激光输出。在本项工作中,通过气相沉积法制备了得到了铋薄膜,并研究了其从近红外到中红外波长范围内的宽带非线性光学特性,首次揭示了铋薄膜的宽带非线性光学特征。从理论计算了铋薄膜的能带结构和表面态,并证明了其作为拓扑绝缘体的宽带响应特性。将铋薄膜转移到D形光纤上作为可饱和吸收体,引入到激光器中成功获得了脉冲宽度为645 fs的锁模输出。此外,基于铋薄膜可饱和吸收体调制掺Er3+氟化物光纤激光器,实验获得了脉冲持续时间为1820 ns的调Q脉冲输出。实验结果表明,基于铋薄膜光学器件确实可以成为宽带非线性光学器件的极佳候选者。