自百年前伦琴发现X射线以来,医学影像及医科手术的可视化相关研究经历了革命性的发展。医学知识、物理概念、数学方法和计算机科学理论有机地融合在医学图像处理及图形计算之中。医学虚拟现实系统是计算机科学家孜孜不倦的追求。近年来,虚拟手术及其中的人体器官软组织的三维形变建模更是计算机图形学的重要研究课题,而软组织形变计算亦是实时虚拟手术系统和人机交互系统的基础模块。本文讨论了虚拟手术系统的需求及算法模块分析,特别关注其中的形变建模及其在虚拟手术系统中的应用。在形变建模方面,分析了传统的质点弹簧算法,它将形变物体表面建模成质点弹簧相连结的网络,其物理形变计算量小,但是算法精度不高;介绍了传统有限元形变建模,属于求解精度很高的数值分析方法,但是计算复杂度很高;然后讨论了中心表达算法,通过中心线信息对表面进行重绘,从而由内而外模拟形变。由于医学数据可视化是软组织三维建模的前提,本文还将兼谈三维网格生成、图像分割等可视化相关问题。虚拟手术系统中,关于实时仿真与软组织动态形变的研究,若采用传统质点弹簧或有限元模型,难以同时实现高效率而又高质量的建模效果,这是由于多方面的原因,首先,传统模型基本上采取线弹性计算,会使大变形失真,而软组织的形变往往都是属于大形变问题;其次,形变建模计算属于三维的问题,其计算复杂度在质点弹簧或有限元网格是至少一维以上大于二维幅度的;而单纯采用中心表达模型又难以表达细节形变效果。所以本文将讨论基于有限元模型的改进模型方案。本研究中,在分析可视化技术和传统形变模型的基础上,对模拟软组织全局大型变形及局部小形变的仿真问题,分别采用有限元和质点弹簧、中线结构和中线表达相结合联系的混合模型。提出创新性的模型解决问题:首先,利用中线结构和中线表达模型,对全局形变采取中线结构的计算,而在局部区域采取精确质点弹簧或有限元计算,并获实验证明其可行性和高效率;其次,为达到真实形变建模实时性要求,在局部区域有限元形变求解运用了绘图处理器加速并行计算,使主要的共轭梯度求解矩阵计算环节从中央处理器转移至绘图处理器以加速计算效率。弹性物体的全局动态形变,是基于用形变模型的中线结构及其有限单元网格来实现的。以2.80GHz奔腾IV芯片电脑、1.0GMb的DDR2内存、以及GeForce-6800图形卡作为计算平台,含190个计算单元的中线结构和3250个三角片组成的表面网格,每帧形变网格数据的计算,约需0.05秒,基本满足实时性要求。实验的分析与总结基于多方面临床案例,如肾脏手术,颅面,血管,胸部修补等虚拟手术。对于形变模型间的评价对比,本文探讨了基于网格数据的二分匹配统计方法,用于验证形变模型的准确性。除了核心的形变建模部分,本文亦将介绍虚拟手术系统中形变模型应用相关的问题,例如系统设计与分析、人机交互技术、力反馈、碰撞检测、实时性与精确性等。