【摘 要】
：
深度学习在很多人工智能应用领域中取得成功的关键原因在于,通过复杂的深层网络模型从海量数据中学习丰富的知识。然而,深度学习模型内部高度的复杂性常导致人们难以理解模型
【机 构】
：
中国科学院信息工程研究所,中国科学院大学网络空间安全学院
【基金项目】
：
国家自然科学基金(No.61772513)资助
论文部分内容阅读
深度学习在很多人工智能应用领域中取得成功的关键原因在于,通过复杂的深层网络模型从海量数据中学习丰富的知识。然而,深度学习模型内部高度的复杂性常导致人们难以理解模型的决策结果,造成深度学习模型的不可解释性,从而限制了模型的实际部署。因此,亟需提高深度学习模型的可解释性,使模型透明化,以推动人工智能领域研究的发展。本文旨在对深度学习模型可解释性的研究进展进行系统性的调研,从可解释性原理的角度对现有方法进行分类,并且结合可解释性方法在人工智能领域的实际应用,分析目前可解释性研究存在的问题,以及深度学习模型可解释
其他文献
在中国历史上,把人们关于谋取物质利益和伦理规范相互关系的看法,称做义利观。这里所说的“利”,主要是指人们谋取物质利益的活动,这里所说的“义”,则是表示一定社会的伦理
【正】 匈牙利的工資分红累进稅,是匈牙利政府六、七十年代为从军观上控制消费基金的过快增长而对企业征收的一种累进稅。它的课税对象是国营企业、合作社在扣除普通利润和企
立体几何是高中数学难点和重点之一,作为需要空间思维的立体几何,我们对几何图形的认识、处理及选择正确思维方法直接决定了学生基础知识的掌握程度和应用水平.本文中笔者基
本文要点:1.发展乡镇工业是结束我国“二元经济”结构的客观要求;2.以集体经济为主,多种层次和多种成份并存的所有制结构是乡镇工业健康发展的重要条件;3.强化宏观间接调控机
怎样开展精神支持疗法第四军医大学附属一院主任医师王家华精神支持疗法是一种指导性心理治疗方法。它是根据心理学知识与原理，通过谈心给病人以解释、疏导、安慰、启发、鼓励
谷氨酰胺具有许多重要生理功能,在营养治疗中合理使用能明显改善危重病患者的免疫状况和临床预后。本文就谷氨酰胺在营养治疗中的作用做一综述。
模糊测试(fuzzing)具备自动化程度高、可重现性好及易扩展等特点,是软件漏洞挖掘的有效方法之一。针对其固有的测试盲目性和低效性,一批先进的灰盒模糊测试方法被提出并应用
【正】 人类,大自然之子,是地球物质不断运动、变化的产物。它以地球为生存、发展之本。两百多万年以来,人类凭借这星球所提供的适宜环境,一代又一代地繁衍,造就了今日的繁荣
【正】 我省农村随着生产责任制的逐步完善,大大解放了生产力,农村经济迅速发展,出现了一部分剩余劳动力,他们从事工业、商业、运输、服务等行业,搞活了农村商品经济,从而使