作为生物认证技术领域的重要一员，基于手掌的身份认证系统正以其安全、准确、快捷的特点而受到越来越广泛的重视，具有广阔的应用前景。本文针对掌纹认证系统若干关键技术进行了深入的研究和分析。提出了一种在复杂背景下手掌的分割算法。该算法是在二维大津法和基于高斯分布的肤色检测模型的基础上结合掌纹图像的特点设计而成的。实验表明，该算法比传统的图像分割算法有着更好的分割性能。而且在不同应用环境下该算法也具有较好的鲁棒性。研究了目前主要的几类掌纹特征提取和匹配的算法，并根据手机解锁系统的特点，选取FisherPalm和DoGCode两种特征提取和匹配算法进行实验。不同分辨率下拒识率、误识率、总体认证成功率以及匹配时间等多项指标的比较结果表明，DoGCode特征提取方法相对具有更好的性能。开发了一套基于掌纹的安卓平台手机解锁系统。系统采用本文提出的复杂背景下手掌的分割算法对图像进行分割并提取手掌ROI区域，采用DoGCode算法提取掌纹特征。系统测试结果表明，该解锁系统达到了较好的识别率，且基本满足了实时性的要求，具有良好的用户体验效果。最后设计并实现了一种基于手掌识别的图形口令认证机制，将基于手掌的身份认证方法进行了进一步的拓展。认证时用户只需对照自己的手掌，在若干混淆的图片中辨别出自己的手掌图片即可。系统不需要用户记忆任何口令，大大减轻了用户的记忆负担，具有较高的可用性和安全性。实验结果表明，基于手掌识别的图形口令是一种很有应用前景的身份认证机制。