随着因特网商业化革命和网络融合技术的不断发展,基于电路交换的公共交换电话网(PSTN)逐步被基于分组交换的下一代网络(NGN)替代。软交换作为NGN网络的核心单元,它整合了语音、数据和视频通讯,并且在独立的网络之间进行协议转换。会话初始化协议(SIP)以其灵活、可扩展、易编程等优点成为软交换系统中的核心控制协议。但同许多互联网协议一样,SIP是根据简化的思路,而不是根据安全的思路设计的,在实际使用时存在很多安全漏洞,因此SIP的安全机制成为目前的研究热点之一。本文主要研究SIP通信系统在通信之前的身份认证机制,以保障通信的可靠性。围绕这个研究目标,本文首先对SIP通信的网络架构、消息结构和注册过程进行研究。借助开源协议栈oSIP,在Windows平台上实现了用户代理程序(User Agent),在Linux平台下实现了注册服务器程序(RegistrarServer)。然后提出了当前攻击服务器的一种的方式:注册劫持。RFC3261建议服务器使用摘要认证机制,但使用这种认证机制后,服务器的吞吐量会下降,而且会带来新的安全问题。本文结合一次性口令(one-time password)和数字信封的思想,提出了一种新型的身份认证机制。最后,还对该系统作了实验仿真与测试工作,主要是验证本文提出的新型认证机制的安全性和执行效率。根据对测试结果的分析可知,采用了本文提出的新型的认证机制,不仅能有效抵制注册劫持,而且具有更高的安全性,因而具有一定的优势和应用前景。