拓扑优化作为一种科学、高效的计算和设计手段,能够在给定设计域不依赖设计者任何经验下寻求满足约束条件的材料最优分布,是结构轻量化设计中最有效的设计方法。目前已经广泛应用于航空航天、汽车、船舶等领域,取得了巨大效益。针对实际工业应用中大多数情况需要考虑非线性效应问题,拓扑优化领域的研究逐渐由基于线弹性模型小变形假设的研究拓展至考虑大变形的非线性相关问题研究,非线性拓扑优化方法的研究也成为近几年的研究热点。本文以非线性拓扑优化方法研究为切入点,以建立面向拓扑优化的考虑几何非线性和材料非线性效应的超弹性体物理响应分析模型为基础,研究边界清晰光滑表达的超弹性结构非线性渐进结构优化框架。并基于深度学习技术,借鉴迁移学习思想和“内嵌物理知识神经网络”思想,进一步研究基于神经网络重参数化的超弹性体非线性拓扑优化框架。主要工作和结论如下:（1）从非线性拓扑优化的力学本质出发,针对连续介质力学相关理论进行研究,构建面向拓扑优化的考虑几何非线性和材料非线性效应的超弹性体物理响应分析模型。针对非线性拓扑优化中的关键制约问题——低刚度区域对应网格畸变导致的有限元计算不收敛问题,进一步提出包含两种数值技术——能量插值技术和自适应步长法的超弹性体物理响应分析模型,该模型适用于所有拓扑优化方法。（2）针对边界清晰光滑表达的渐进结构优化方法进行改进,引入考虑最小尺寸控制的双曲正切函数,控制细微结构的尺寸,增强结构的可制造性以及优化的鲁棒性。结合所提的超弹性体组合分析模型,提出基于边界清晰光滑渐进结构优化方法的超弹性体非线性拓扑优化方法。通过计算单元灵敏度,将其转化为节点灵敏度用以构建水平集函数,借助水平集函数的零等值面移动实现结构拓扑的演化。数值算例表明:所提框架能够解决大载荷下的非线性拓扑优化问题,能够高效地完成优化设计任务,所得结构边界清晰光滑,没有初始依赖性。结构内部细小结构少,可制造性强。（3）引入深度学习技术,将神经网络嵌入拓扑优化。为克服现有的结合工作中需要提前构建大量的数据集、所训练网络的泛化性不好等问题,基于无监督学习的思想,借鉴“内嵌物理知识神经网络”中将学科信息引入神经网络的构建方式,将传统拓扑优化对设计变量的优化更新转化为对神经网络参数的更新。通过这种重参数化,实现由物理知识驱动深度学习的过程。数值算例表明:该方法能够解决各类拓扑优化应用问题,具有良好的普适性,能够得到兼具优良性能和制造性的优化结构。（4）结合所提超弹性体组合分析模型,提出基于神经网络重参数化的超弹性体非线性拓扑优化方法。在确定神经网络初始参数时,引入迁移学习思想,提出面向拓扑优化的基于预训练的神经网络参数初始化方法。针对非线性拓扑优化计算时间长的问题,基于迁移学习训练,提出面向非线性问题的神经网络训练加速方法。数值算例证明,所提方法能够解决非线性拓扑优化问题,结构内部细小分枝数量少且最小尺寸较大。在引入基于迁移学习的加速方法后,优化所需迭代步数减少,优化所需时间减少。综上,本文以非线性拓扑优化方法研究为切入点,探索了解决超弹性体结构优化设计问题的拓扑优化方法,进一步丰富和发展了非线性拓扑优化方法体系,对于推动和提升非线性拓扑优化方法的设计能力与应用水平,服务于卫星结构及其附属机构的智能优化设计具有理论意义和实用价值。