论文部分内容阅读
算法黑箱的法律规制研究对于解决当前算法时代中层出不穷的算法操纵、算法歧视、算法茧房、算法失控等一系列算法问题有着至关重要的作用。随着算法技术的日益发展与迭代更新,算法黑箱的不透明性与自主性愈发明显,不具备算法专业知识和算法理解能力的社会公众,只能被迫地接受算法的输出结果而无从了解算法的决策缘由。目前国内外对于算法规制的研究日臻成熟,但对于是否要打破算法黑箱,将提高算法透明度和可解释性作为规制算法的基本路径仍存在争议,算法黑箱法律规制的正当性和可行性仍有待厘清。基于算法技术膨胀发展和算法非正义现象的屡屡发生,打破算法黑箱,对算法的决策过程和运算逻辑进行透明和解释是最具针对性的算法规制方式。本文以提高算法黑箱的透明度和可解释性作为规制算法黑箱的基本路径,以社会公众、算法企业和行政机关等主体为视角,梳理算法黑箱法律规制的主要模式,对算法黑箱的法律规制提出针对性的制度建议,以期更好遏止算法非正义现象的发生。本文通过文献研究、比较分析、案例分析、法条分析等研究方法,分析目前国内外算法黑箱法律规制的研究现状、司法实践、存在的困境以及产生困境的原因,并尝试从我国算法规制的社会现状出发,为完善算法黑箱的法律制度提出建设性意见。论文共分为五个部分:第一部分,主要对算法与算法黑箱的联系和区别、算法黑箱的特征、算法黑箱与算法法律属性之间的关系进行界定和厘清。随着切入视角的转换,算法和算法黑箱的概念也会随之改变,尤其是在算法膨胀式发展的现阶段,具备自主决策和机器学习能力的人工智能算法将算法设计者和算法使用者也排除在算法黑箱之外。算法黑箱的不透明性和自主性特征是规制算法黑箱必须要慎重对待,算法商业秘密是规制算法黑箱过程中必须要考虑的重要一环。第二部分,主要是对算法黑箱法律规制的必要性进行证成。随着算法逐渐适用于生产生活、商业服务、行政管理、司法辅助等各个领域,算法黑箱所引发的如算法歧视、算法失控等负面影响也随之扩大,算法黑箱的法律规制在治理算法问题的过程中发挥着重要的基础性作用。为避免算法权力的异化和膨胀,算法权力应当行走在“阳光”之下,打破算法黑箱,对算法的计算过程进行透明和解释是限制算法权力的必经之路。算法黑箱规制与正当程序规制作为解决算法问题的两种基本规制路径,其核心理念是并行不悖的,程序公开是正当程序制度的必然要求,体现在算法规制领域便是要求打破算法黑箱。第三部分,主要是对算法黑箱法律规制的可行性进行论辩与证成。针对算法黑箱法律规制的可行性目前存在三种质疑,一是算法不可知论认为算法的内在逻辑和决策依据是无法实现绝对透明和可知的,而算法透明的目的在于探究算法对法律关系的影响,而非追求算法技术领域的绝对透明。二是算法解释存在客观障碍,有悖算法技术发展的理念,而算法解释的功能定位明确了解释应当以目的为导向,以披露对象的理解能力作为标准。三是利益冲突说认为打破算法黑箱会损害公共利益和商业利益,而算法黑箱的分类分级规制理念对使用主体不同、涉及利益不同的算法采取针对性的规制方式,可以缓解算法技术发展和算法黑箱规制之间的矛盾与冲突。第四部分,主要是对算法黑箱规制的不同模式进行对比分析。针对是否具有普遍适用性,可以分为一般规制模式和特殊规制模式,对算法黑箱的规制既要从原则性、全面性的角度把握,也要坚持具体问题具体分析,对不同领域、不同功能、不同种类的算法黑箱进行针对性的规制。针对算法黑箱规制手段的侧重点不同,可以分为代码公开模式和解释公开模式,解释公开模式更为容易被算法设计者和使用者所接受,也方便公众理解,代码公开模式虽然较为抽象但却更加直接。按照行政机关介入算法的方式不同,可以分为事前监管模式和事后响应模式,事前监管模式主要适用于算法应用阶段之前,对算法进行事前的、预防性的审查,事后响应模式是行政机关对于公众反映的算法问题进行针对性地透明与解释。第五部分,算法黑箱的法律规制应当坚持算法黑箱分类分级的规制原则,对不同主体使用的算法、涉及不同利益的算法、适用于不同领域的算法采取与之对应的规制手段。从社会公众的角度出发,完善公众的算法知情同意权和算法解释权是保障其利益最为直接和便利的方式。从算法企业的角度出发,要切实履行其显著标识义务和披露义务,保障公民算法权利的行使,对应用的算法进行影响性评估是企业披露算法的一种折中且实用的方式。从行政机关的角度出发,应当坚持分类分级的备案审核方式,在国家网信部门的统筹下,发挥多方行政机关的监管职能。第三方专业机构的测评与算法相关行业的自律同样也在规制算法黑箱的过程中发挥着积极作用。