微带电路体积小、重量轻且结构紧凑,是现代无线通信系统中的常用电路形式。传统的微带电路设计方法十分依赖于全波电磁仿真软件,在优化过程中往往需要耗费巨大的人力、计算机资源和时间成本,已经无法适应当今电子技术的发展需求。近年来,高斯过程回归（Gaussian Process,GP）、人工神经网络（Artificial Neural Network,ANN）等机器学习方法被研究者们用于微波射频电路的分析和建模中,并逐渐受到重视。本文在GP和ANN的基础上研究了小样本的无源微带电路高性能建模和高效优化方法,极大地提高了设计效率,本论文的主要工作如下:首先对目前主要的机器学习方法进行了综述,介绍了ANN和GP基本原理。提出了一种粒子群梯度下降算法优化的ANN并对微带垂直过渡结构进行了建模。对ANN和GP在不同规模训练样本情况下的预测精度和训练耗时进行了对比,为后续的研究奠定了基础。在无源微带电路的小样本建模研究方面,首先从低频、简单的电路结构出发,研究了知识高斯过程（Knowledge-based Gaussian Process,KBGP）的建模方法,包括差值型和先验知识注入型的ANN-GP模型。用微带不等分功分器算例和低通滤波器算例对两种模型进行比较和分析,并在此基础上提出了结合两种模型的协同型KBGP建模方案。当微带电路工作频率增加、电路结构复杂时,电磁仿真与等效电路间差异逐渐增大。为了进一步探究在高频复杂情况下依然有良好性能的建模方法,在KBGP建模方法的基础上,联合空间映射技术与半监督训练算法,提出了一种半监督学习算法训练的输入-输出高斯过程空间映射模型对高频微带电路进行了小样本建模研究,结合两个X波段的微带滤波器实例对方法进行了验证。在无源微带电路的高效优化问题方面,提出了高斯过程半空间映射的微带电路高效优化算法。通过对优化方向进行判定,使得寻优空间减半,仅需少量几次迭代即可优化出满足设计指标的电路结构。此外,考虑到实际问题中存在设计参数多、优化范围大且难以获得先验知识的微带电路设计问题,因此提出了一种通用性较好的粒子群高斯过程算法。该算法仅用少量的样本训练初始GP,每次迭代过程中用粒子群算法对其进行寻优,并用电磁仿真软件对模型预测的最优结果进行验证和GP的再训练,直到找到满足指标要求的电路结构。借助该算法对E型双频贴片天线和超宽带微带缝隙天线进行了优化设计。