微带滤波器是无线通信系统中一种至关重要的器件，在军事和民用通信系统中有着广泛的应用，主要用于不同频谱信息的分离和信号干扰的抑制。由于无线通信技术的快速发展，一方面，在通信系统性能不断提高的同时，也对系统的小型化提出了越来越高的要求，对于发展小型化、集成化以及具有高可靠性能的无线通信设备已成为必然趋势，所以需要电路既能满足电气性能的同时又尽量少占用空间；另一方面，由于通信系统的不断增多，对频带资源产生了极大的需求，分配给每种通信系统的频带就会越来越窄，为了减小信号之间的相互影响，就需要高性能的微带滤波器的出现。本文针对无线通信系统中微带滤波器小型化技术展开了研究，主要工作如下：首先，基于滤波器理论的基础上，通过研究最近已经发表的一些微带滤波器，包括经典的哑铃缺陷地结构(Defected ground structure，简称DGS)滤波器、谐振环DGS滤波器、分型滤波器、缺陷微带线结构(Defected Microstrip Structure，简称DMS)滤波器、哑铃谐振器结构滤波器、耦合线谐振器结构滤波器和发夹型谐振器结构等微带滤波器，来分析每种微带滤波器在小型化技术方面的设计思路，并在此基础上提出自己的看法与改进措施，为后面自己提出新结构，实现优越的滤波器性能作铺垫。其次，针对DGS滤波器能量会在底层地泄露的问题，以及目前微带低通滤波器在小型化、高性能方面的发展需求，本文提出了两种分别基于蜿蜒缝隙型哑铃谐振器和风车型谐振器的微带低通滤波器。两种微带低通滤波器都是单层电路结构，即底层金属地不做任何缝隙的加载。文章给出了这两种滤波器详细的设计过程。通过与已经发表的一些紧凑宽阻带微带低通滤波器相比，本文设计的两种滤波器在尺寸结构的紧凑性以及阻带的抑制宽度方面要优越很多。最后，总结出一种如何快速实现需要的频率响应的紧凑宽阻带抑制微带低通滤波器设计步骤。最后，将微带滤波器中DGS、DMS、分型结构、谐振环结构等一些小型化技术延伸到微带天线中进行应用。提出一种变形H分型的方式，仿真实现的天线在尺寸紧凑性方面要比未进行分型时提高71％。