基于头皮电位的脑电（EEG）的研究是一种无创的脑科学研究方法之一,引起了众多学者的关注。脑电信号是一种非平稳且非线性的随机信号,在很多情况下,计算机处理的脑电数据通常维数高,数据量大,且经常需要将其作为一个整体进行处理和分析。采用传统的线性或局部的算法直接处理这样的数据,会使问题变得比较复杂。针对EEG的这些特点,本文引入了基于流形学习的非线性维数约减（即非线性降维）方法对脑电信号进行预处理,从全局的和非线性角度得到能够揭示高维脑电数据本征结构的低维数据,再应用全局优化算法对脑电数据进行处理。目前常用的线性维数约减技术都不能揭示实际数据的非线性结构。而基于流形学习的非线性维数约减技术,如等距映射（ISOMAP）,局部线性嵌套（LLE）等优于传统的线性降维技术。本文对非线性维数约减算法、全局优化算法及脑电问题进行了研究,研究了非线性维数约减算法在EEG中的应用,对以下三个方面的脑电问题进行了应用研究:LLE和BP神经网络在癫痫棘波和背景脑电信号识别中的应用,提出了基于非线性维数约减预处理的癫痫棘波的自动检测方法;上下移动光标的意识任务脑电分类;用ISOMAP及遗传算法对仿真的脑电数据进行了偶极子源定位研究。模拟实验的结果表明,采用本文提出的方法,癫痫棘波信号正确识别率可达97%,上下移动光标的意识任务脑电分类正确率达到92%。用ISOMAP降维后的脑电数据通过遗传算法进行偶极子源定位,进化到500代时,平均适应度就达到了4.4808×10^-3,提高了遗传算法的收敛速度。