随着核工程的快速发展,对核数据的要求越来越高。积分实验是核数据工作的一项重要内容。在中子积分实验中,测量中子γ射线混合辐射场中的γ射线对校验相关核参数具有重要意义。为了提高中子γ射线甄别性能、准确测量中子γ射线混合辐射场中Y射线能谱以及具备原始实验数据后处理功能,巧妙设计了由氘化液闪探测器和采样率为2GS/s、分辨率为8位的高速数字化仪构成的数字化Y射线探测系统。利用Am-Be中子源产生的中子Y射线详细研究了该数字化探测系统中三种数字化中子Y射线甄别算法的性能,它们分别为数字化电荷比较法(digital charge comparison, CC)、简化电荷比较法(simplified digital charge collection, SDCC)和脉冲梯度分析(pulse gradient analysis, PGA)。同时还讨论了不同滤波算法和模拟堆积脉冲对这三种算法甄别性能的影响,结果表明三种算法都有潜力应用到该数字化Y射线探测系统上。其中,SDCC和CC算法更适用于低计数辐射场的粒子甄别,而PGA算法搭配七点平滑滤波算法是高计数辐射场中甄别的最佳选择。根据BC537和BC501A两种液闪探测器的中子γ射线甄别性能以及中子Y射线计数比随能量变化的比较,发现氘化液闪探测器(BC537)在MeV量级拥有更好的中子Y射线脉冲波形甄别特性且对低能中子不敏感。另外由于入射中子会与液闪分子中氢核发生相互作用放出2.225MeV的内本底γ射线,BC537因为含氢密度比BC501A低两个数量级而产生更少的内本底γ射线,因此BC537更适用于混合辐射场中MeV量级的γ射线能谱探测。为了将测量得到的脉冲高度谱反演为γ射线能谱,液闪探测器的响应函数是必不可少的。Geant4和EGSnrc两种蒙特卡罗程序用于模拟计算γ射线在液闪探测器中的输运和能量沉积过程,二者得到的响应函数符合的很好。Geant4模拟计算与实验测量的响应函数吻合的较好,验证了模拟参数的合理性和可靠性。利用Geant4程序计算了γ射线在BC537探测器中的响应函数和探测效率,详细讨论了探测器建模中有无铝壳和入射Y射线束流半径分别对Y射线探测效率的影响。使用数字化γ射线探测系统测量的脉冲高度谱和由Geant4计算的响应矩阵,分别运用神经网络法和迭代法进行解谱,结果表明,迭代法耗时,但是解谱结果稳定且无负值点。神经网络法由于在训练的过程中就己经完成了权值矩阵的计算,解谱时只需要简单的计算,而更适用于在线探测系统中的解谱。