随着无线通信技术的发展,天线设计也面临着小型化、宽带化、多频化等多方面的设计需求,天线与阵列设计日趋复杂,设计自由度提升。传统的全波仿真计算虽然仿真结果相对精确,但计算成本较高,不利于需要大量重复仿真计算的优化过程或敏感性分析。本文针对机器学习辅助优化技术及其在天线设计中的应用开展深入研究,具体成果如下:首先,在研究电磁优化领域被引入的常用机器学习代理模型及相关优化算法基本原理的基础上,对比人工神经网络（ANN）、支持向量机（SVM）、高斯过程回归（GPR）三种模型,得出GPR在模拟高维、小样本、具有众多局部最优解的天线问题时,具有稳定的优势。基于GPR,本文介绍了处理天线设计优化目标时的优化算法设置和机器学习辅助优化的总体流程框架。接着,对优化方法进行了通用性研究,压力测试和鲁棒性测试,得出其适用于各类常见天线的设计优化且收敛过程稳定,在40维设计变量的情况下仍可以保持较为稳定的性能。其次,在研究机器学习辅助优化的基础上,研制了毫米波宽带反射阵和应用于无线局域网（WLAN）的双频单极子天线。反射阵工作于Q波段,可调参数4个,单元优化时样本15个,经过36次迭代仿真验证,稳定于最优结果,仿真与测试结果表明其具有较宽的增益带宽和良好的辐射性能。双频单极子天线在原有设计基础上进行了尺寸压缩,优化时可调参数13个,样本30个,经过79次迭代仿真验证达到最优设计,优化后的天线尺寸仅为20×15 mm2,可以有效覆盖2.4GHz和5GHz频段。实验结果表明,利用机器学习辅助优化,两个天线均以较低的计算成本达到了设计需求。最后,在理论研究的基础上,研发了天线自动优化软件。该软件基于MATLAB图形用户界面（GUI）功能开发,支持调用全波仿真软件HFSS和CST进行联合仿真优化,根据已有模型进行参数化建模。软件在优化功能的基础上增加了参数及优化目标收敛情况实时监控,暂停调整参数范围等功能,符合天线设计过程的需求。自动优化软件进一步提高了天线优化效率和代码的复用率。