变分不等式理论作为应用数学和工程科学的一个重要分支,在工业、金融、经济、生态学、社会学等方面有着广泛的应用。但是,目前对变分不等式解的存在和迭代算法研究几乎都是建立在凸集基础上的,这是因为建立在凸集基础上的投影算子有很好的性质,这些性质在非凸集上并不一定全部具有。因而,对建立在非凸集基础上的变分不等式的研究无论从理论研究还是从实际应用的角度来说,都具有重要的意义。本文研究了一类新的变分不等式—广义非凸变分不等式。通过投影技术来证明广义非凸变分不等式和不动点问题是等价的,利用这种等价形式来讨论广义非凸变分不等式的解的存在性,并且利用这等价替代形式来构造解广义非凸变分不等式的一类新的迭代算法。最后,证明这种迭代算法在一定条件下是收敛的。在不动点问题基础上,本文又研究了广义非凸变分不等式和Wiener-Hopf方程之间的等价关系,并利用这等价关系构造解广义非凸变分不等式的迭代算法,以及讨论这算法的收敛性。