在传统的信号处理中，人们分析和处理信号最常用也是最直接的方法为傅立叶变换。以不稳定动力系统为特征的大干世界却由一个“非”姓家族主宰着：非平稳、非线性、非高斯、非连续、非周期、非对称等等，不一而足。以傅立叶变换为基础的经典分析方法对此已经无能为力，所以分析时变信号需要研究和发展新的理论和方法。本文对几种常用的时变信号进行分析，研究了几种检测和瞬时频率估计问题，所作的主要工作有： (1) 系统地研究和论述了时变信号处理的理论基础，阐明了各种时频分析的方法及其优缺点，介绍了时频结果的处理技术。 (2) 研究了单分量线性调频(LFM)信号的检测问题。给出了魏格纳-维尔-霍夫变换(WVD-Hough)、平滑伪魏格纳-维尔-霍夫变换(SPWVD-Hough)、平滑重排伪魏格纳-维尔-霍夫变换(RSPWVD-Hough)三种检测方法；提出了改进的WVD-Hough变换方法，此方法不仅可以在低信噪比条件下有效地检测信号，而且运算量小；分析并比较了不同方法的检测性能。 (3) 研究了单分量LFM信号的瞬时频率估计问题。给出了WVD最大值法、SPWVD最大值法、WVD-Viterbi算法和SPWVD-Viterbi算法；提出了改进的WVD最大值法和改进的WVD-Viterbi算法，这两种方法在低信噪比条件下，可以减少运算量，提高估计性能；仿真分析并比较了不同方法的估计性能。 (4) 研究了多分量LFM信号的瞬时频率估计问题。分别讨论了信号瞬时频率有无交点两种情况，无交点条件下直接利用逐次消去思想进行瞬时频率提取；有交点情况下，提出了新的算法：首先进行时频平面分离再进行提取，最后线性拟合，得到每个信号的瞬时频率估计，仿真结果表明它可以有效抑制瞬时频率交点的影响。 (5) 利用研究的WVD最大值、SPWVD最大值、WVD-Viterbi及SPWVD-Viterbi算法对其它形式调频信号进行处理，提取了各种信号的瞬时频率，并给出仿真结果。 (6) 利用实测数据对各种方法进行验证。