结构优化的目的是让设计的结构利用材料更经济、受力分布更合理,而拓扑优化是当今结构优化领域内最具有挑战性的课题。所谓拓扑优化,就是要在给定的约束条件下,在一块预先给定的设计区域中决定最优的材料分布方式或者构件之间的最优连接关系。结构拓扑的改进可以大大改善结构的性能或减轻结构重量,带来直接的经济效益,近年来成为国内外研究热点。拓扑优化是工程师对产品进行创新性概念设计的有力辅助工具,尽管在众多学者的不懈努力下,这一领域的研究已经取得了很大的进展,但仍有一些问题值得进一步深入探讨。本文以连续体结构为研究对象,分别就拓扑优化的基本理论和方法、解决拓扑优化中数值计算不稳定性的方法及基于变密度法的拓扑优化准则算法等方面进行了比较深入而系统的研究。论文的主要研究工作:1、介绍两种工程中应用较多的材料密度插值模型:固体各向同性惩罚微结构模型(SIMP)和材料属性的有理近似模型(RAMP)。在研究密度插值法理论和拓扑优化准则基础上,以结构整体柔度最小为目标函数,实体材料所占的体积作为约束条件,利用RAMP密度-刚度插值模型推导相应的优化准则。2、针对棋盘格式和网格依赖性等数值计算问题,计算过程中应用一种密度和敏度混合的滤波技术处理迭代密度场,有效消除优化结构中的棋盘格式,并使优化结构体现出较好的网格无关性;文中用matlab程序实现了算法,通过几个经典算例证明了本文所研究方法的有效性。3、针对变密度法中SIMP和RAMP两种模型在惩罚函数方面的不足,提出一种新的Sigmoid惩罚函数。基于新的惩罚函数,应用优化准则法进行优化计算。通过求解MBB梁和短悬臂梁模型,得到优于传统变密度方法的拓扑结果,验证了改进方法的可行性与有效性。