破解算法黑箱:算法解释权的功能证成与适用路径--以社会信用体系建设为场景     被引量：4

Open the Algorithm Black Box: Function Verification and Applicable Path of the Right to Explanation--Based on the Construction of Social Credit System

中文题名：破解算法黑箱:算法解释权的功能证成与适用路径--以社会信用体系建设为场景

作者：姜野 李拥军

第一作者：姜野

机构：[1]吉林大学法学院,吉林长春130012

年份：2019

卷号：0

期号：4

起止页码：83-92

中文期刊名：福建师范大学学报:哲学社会科学版

中文关键词：算法;黑箱;算法解释权;社会信用体系;人工智能;

摘要：以算法为基础的数据分析技术已经成为促进社会信用体系建设的强大动力。算法因其高效而在社会中得以广泛应用,却又因内部复杂以及商业机密的外衣而具有"黑箱"特性。因此算法在信用体系中的应用很可能产生数据失控、结果歧视、难以修复信用与分配责任等风险,诸多风险需要得到来自法律的回应。算法解释权是人工智能时代的新兴权利,具有规制算法权力、纠偏数据鸿沟、帮助相对人知悉决策过程以及评判算法优劣等功能,能够有效应对算法自动决策带来的风险。算法解释权的实现主要存在宏观与微观两种不同的路径,一种是对整个算法过程进行解释,另一种主要解释具体决策。破解算法黑箱并非将所有代码公开,也不意味着让决策相对人完全知悉算法的搭建与运算过程,更多的是通过可被理解的方式解释算法、提高算法的透明度,以使其运行更加公开公正,当数据错误或者权重失衡的情况出现时进行及时救济。

分类号：D916[司法制度] D922.21[预算法、决算法]

收录：BDHX:【BDHX2017】；CSSCI:【CSSCI2019_2020】；国家哲学社会科学学术期刊数据库;RCCSE;中国人文社科核心期刊;中国科技核心期刊;核心刊;