基于非线性分析的拓扑优化在工程领域有着广阔的应用前景,如设计用于能量采集的双稳态激励器,设计可广泛应用于微电子机械系统(MEMS)领域中的柔性机构,以及应用于精密加工和生物医药技术的特殊结构等。在目前的几何非线性拓扑优化方法中,位移场分析一般是利用有限单元法而材料场则采用基于单元的密度描述。可是这种基于有限元概念的拓扑优化框架在进行大变形分析时会遇到由于网格畸变导致的求解困难以及在低密度区由于材料局部失稳导致的收敛困难问题。本文的目标就是构建一个新型的几何非线性拓扑优化框架来避免以上的数值问题,并能稳定且有效地实现大变形下的优化设计分析。基于无网格伽辽金方法,本文提出一种分析独立的节点密度变量方法来研究几何非线性结构的拓扑优化问题。通过采用摆脱网格限制的无网格方法,这个优化框架能避免在结构大变形情况下有限元分析经常出现的网格畸变问题。而拓扑优化问题中的连续材料密度场则是利用一系列独立于位移分析场的密度设计变量点来离散,并通过一个具有严格的材料物理意义的Shepard函数插值构造而成。在结构位移分析中,材料低密度区的位移波动常常会让传统的基于位移的收敛准则失效,因此本文采用了基于应变能的收敛准则来解决这种收敛困难问题。为了预测和解决节点密度方法通常产生的数值失稳问题,即“孤岛”现象或“分层”现象,本文基于混合变分概念分析了用于节点密度问题的数值稳定必要条件。并通过利用本文提出的分离独立密度场框架来解决了这一问题。本文给出了数值算例来说明分离密度场框架的有效性,数值结果表明本文方法可以得出相对更清晰的拓扑结果,同时说明了即使在大变形情况下也能避免“孤岛”等失稳现象。本研究工作肯定了无网格伽辽金方法在大变形下拓扑优化问题中的可行性和潜力,而且提供了一个能容易地引入其他无网格分析方法来实现不同目标的新颖、真实的无单元拓扑优化框架。