基于性能的抗震设计作为地震工程发展的一种趋势,其基本思想将逐渐进入设计标准并应用于实际工程的设计。基于性能的地震工程理论是以概率可靠度理论为基础的,但当获得的地震数据资料不足以支持概率模型时,概率模型并不能有效地处理地震工程中的不确定性问题。本文运用凸集理论和凸集模型描述地震作用的不确定性,基于能力谱方法应用非概率可靠性理论对结构体系在罕遇地震下的可靠度进行了分析。主要研究内容如下：首先讨论概率可靠性理论的基本概念及概率模型的局限性,简要介绍了凸集理论的概念及其基本性质。基于区间模型和椭球模型,采用标准空间中的范数度量,提出了结构非概率可靠性指标的量化方法,并进一步定义了与之对应的非概率可靠度。通过算例对非概率可靠度和概率可靠度进行了对比分析。针对实际工程中既有随机变量又有其它不确定变量的混合模型,提出了混合模型可靠度的三种方法。系统地介绍凸集模型在地震工程中的应用,并指出在结构抗震可靠度分析领域应用凸集理论的必要性。其次,阐述了反应谱的基本概念,系统地分析了反应谱的两个控制变量水平地震影响系数最大值和反应谱特征周期的不确定性,应用区间模型描述二者的不确定性。通过对搜集的国内外地震波加速度记录进行统计分析,分别给出了水平地震影响系数最大值和特征周期的区间范围,并在此基础上,通过凸规划方法,得到了水平地震影响系数的区间,提出了区间反应谱的概念。最后基于能力谱方法,采用矩形分布和抛物线分布双加载模式的包络抗力曲线考虑加载模式引起的抗力的不确定性；在确定的加载模式下用随机概率方法考虑混凝土强度的变异性对结构体系抗力的影响。应用区间反应谱考虑地震动的不确定性,用能力谱方法得到结构地震作用效应的区间范围。通过非概率可靠性计算方法可进一步求得结构体系在罕遇地震下的非概率可靠度。利用本章提出的方法,分别以七层、十层框架结构为例计算了结构体系的非概率抗震可靠度,并与概率可靠度进行了对比,验证了本文方法的合理性。