随着纳米科技的高速发展,制备技术的日渐成熟,纳米材料已经迈出科学研究的大门,逐渐走进工业生产和日常生活的各个方面。对新型纳米材料的开发和应用也成为当前光学、材料学、生物学等多个学科共同的研究热点。本论文围绕着两种新型光学纳米材料展开,从纳米材料的光学性质表征、在光学领域的应用方面进行了一系列的研究工作。对一类具有聚集诱导发光性质的新型荧光材料进行了光学性质及应用研究：描述了此类材料中两种典型的荧光分子TPE-TPA-FN和HPS的吸收、辐射等光学特性。利用TPE-TPA-FN的聚合物纳米颗粒作为荧光成像探针标记HeLa细胞,以自己设计并搭建的共聚焦-非退扫描双模态激光显微成像系统为工具,完成了细胞荧光显微成像。对比了HPS与普通荧光染料香豆素的长时间、高功率激发光下的抗光漂白能力,还对比了二者在相同激发光下的受激荧光耗尽曲线。通过两个对比试验,发现具有聚集诱导发光性质的HPS在抗光漂白性、光稳定性及受激荧光耗尽效率都占据显著优势。综合其生物成像能力,分析提出聚集诱导发光染料作为荧光探针在受激荧光耗尽超分辨显微成像应用中具有巨大潜力。对一种碱金属铌酸盐纳米材料——铌酸钾纳米针进行了非线性光学表征,并开展了两方面的应用研究：首先,对其谐波特性进行表征：以飞秒激光与多光子显微镜为工具,验证了铌酸钾纳米针单颗粒产生的二次谐波和三次谐波强度具有偏振相关性；以波长可调飞秒激光为光源,测量了铌酸钾纳米针单颗粒的二次谐波与三次谐波的转换效率-波长相关曲线。基于铌酸钾纳米针具有较高二次谐波转换效率这一光学特性,将其作为模拟探针应用于对二次谐波成像最佳激发波长的评价中,提出了一种更为准确的波长评估方式,并通过实验验证了第三光学窗口在生物深度成像中的优势。同时,进一步探索了铌酸钾纳米针的和频特性：以光纤激光器产生的皮秒脉冲及其泵浦光子晶体光纤产生的超连续谱脉冲为光源,验证了铌酸钾纳米针具有宽光谱的相位匹配和和频能力。基于铌酸钾纳米针的谐波和和频特性,将其应用于对超快脉冲激光的性质表征中。以自己搭建的一套相干自相关仪系统为平台,铌酸钾纳米针为非线性材料,完成了对光纤激光器产生的皮秒脉冲光的测量,并用标准算法重构了皮秒脉冲的相位信息；以一套自己搭建的泵浦-探测光学系统,根据交叉相干频率光学开关原理,对皮秒脉冲光泵浦光子晶体光纤产生的超连续谱脉冲进行了性质表征。