互补问题与非线性规划、对策论、变分不等式、不动点理论等分支均有紧密联系，且在力学、经济、交通、工程等许多方面有广泛的应用。对于非线性互补问题的研究一般通过借助光滑函数将其转化为非线性方程组的求解，多维滤子算法是效率比较高的算法，且具有较好的全局收敛性。本文的主要研究内容是求解非线性互补问题的光滑牛顿法和多维滤子方法。论文主要内容如下:　　1.通过将非线性互补问题转化为非线性方程组及对光滑函数的性质研究，提出了新的光滑函数，算法在每一步迭代只需执行一次不精确Armijo线搜索和解一个线性方程组。在证明了光滑牛顿法的全局收敛性，最后通过数值试验验证了算法的全局收敛性。　　2.利用多维滤子算法的高效性，提出新的滤子接受准则，并将新的滤子接受准则应用于多维滤子算法，基于此算法对非线性互补函数进行求解，在实际计算中只有少数迭代需要计算两次函数及投影梯度的值。证明了算法的全局收敛性，最后数值试验证明了基于新接受准则的多维滤子算法的可行性。　　最后，对本文的主要内容进行了总结，并且对未来工作提出了进一步研究的方向。