论文部分内容阅读
近年来,随着全球疫情局势的蔓延以及信息技术的革新发展,网上教学模式蓬勃兴起,使得在线教学平台得到了大力地推广应用。随之而来的是教学资源的内容安全性越来越受到重视。教学平台需要对用户上传的教学资源进行内容审核,以确保教学资源符合相关国家法律法规。当前,教学云平台主要依赖人工来完成平台上教学资源的内容审核。受制于人工审核的成本较大、效率低下、缺少统一审核标准的问题,教学云平台迫切地需要一个能够针对多种不同形式的教学资源进行精准审核、性能优良效率高的教学资源自动审核系统。因此,本文针对视频、图像、文本类型的教学资源,设计并实现了一个教学资源自动审核系统,以解决教学云平台人工审核教学资源的痛点问题。本文的研究工作主要包括以下两个方面:(1)调研相关技术以及现有的内容审核的实现方案,结合教学云平台的业务需求,梳理并划分自动审核系统的各个模块,设计并实现一个包含有针对文本资源的敏感词汇检测、针对图像资源的色情内容检测技术以及针对视频资源的暴力行为检测三大功能的教学资源自动审核系统,并使用感知哈希算法实现图像指纹库,用于降低人工审核负担。(2)调查研究现有的基于视频的暴力行为检测算法,通过比较传统的特征提取和分类器相结合的识别模型与深度学习模型的优缺点,结合方向梯度直方图(HOG)与运动尺度不变特征变换(MoSIFT)方法、颜色布局描述子(CLD)来提取视频资源的时空关系特征,设计并实现了对视频资源的暴力行为检测模块。最后,本文对教学资源自动审核系统进行了全面的测试,测试结果有效的验证了自动审核系统的有效性、可行性。本文提出的自动审核方法对于教学资源的内容安全监测有一定的参考价值。