普法:数字时代需要高度关注算法规制

本篇文章1673字，读完约4分钟

薛军

最近，关注《人物》杂志外卖骑手的深入报道“外卖骑手，关于系统”引起了舆论的暴风雨。 发货公司开发的实时配送系统作为活用ai智能算法和深入学习的系统，大幅度提高了智能配送的效率，发货骑手不需要自己优化路径，按照系统的指示，1分钟也不浪费，直接发货给客户。 但是，外卖骑手越努力，系统就越自动评级参数，缩短配送时间的要求，所以外卖骑手必须用超速、逆行、红灯无视等方法缩短配送时间，因延误而被罚款。 但是，问题是，对于经过这种“艰苦努力”才达到的配送效率，智能配送系统进一步将其默认值设定为普遍标准化的要求。 这是一个可怕的自食循环。 销售骑手越努力(无论这个努力用什么方法实现)，系统就越觉得骑手有可能还能挖，提出更接近不可能的任务。 本来是为人服务的系统，结果反而控制和支配了人。 科幻电影《黑客帝国》中描绘的控制一切的矩阵似乎都变成了现实。

其实问题没那么多。 我们相遇的是数字时代的算法问题。 由于新闻技术的迅速发展，我们通过收集和解决大数据，可以计划和安排社会生活的很多事项。 这样做不仅效率高，而且评价更准确。 例如，银行可以根据收集的大量金融费用数据，根据算法决定是否向申请人发放贷款，以及贷款的利率。 法院也可以根据司法大数据，设计决定是否批准相关人员提出的保释、减刑申请的算法，让算法量刑。 根据商业大数据，决定检索展示结果中的商家排序，EC平台追求最高的顾客点击概率转换率，可以实现平台gmv (成交总额)的最大化。 随着大数据技术的进步，算法的采用可以说是全面展开的。 我们迎来了算法时代的到来。

算法的运用给我们带来了各种各样的福利，同时也引起了随之而来的很多问题。 算法动作的基础数据客观真实吗？ 算法的运用会加深歧视并加强吗？ 你有挑战算法结论的权利吗？ 进来，我们有权挑战算法本身的公正性和合理性吗？ 这些是近年来学术界越来越关注的重要话题。

在其性质上，算法其实是数据科技公司开发的一系列运营管理工具，代替自然人进行决定和评价。 但是，即使有高科技背景，算法也应该归于相应运营者的决定和评价。 即使我们在算法中使用了自动决定和深度学习等技术，也不能认为算法享有某种“技术中立”的地位。 算法本身是技术，但算法运营者给出了灵魂和价值的选择，因此算法的问责和规制的基础依然是把算法运营者放在规制的中心。 脱离这个基础讨论算法限制的人注定会成为空谈。

具体来说，算法运营者必须对算法带来的实际问题负责。 例如，某个特定算法的运用是否引起了明显的违法歧视行为，是否引起了对公共秩序的危害，是否侵犯了公民的基本权利和人格尊严，是否构成了违反社会必要的观察义务等。 在这里，我们并不是想应用以前传达的意义上的“产品责任”理念，理解并定义算法运营者的法律责任的性质。 因为这确实有很大的区别，但无论如何，算法运营者必须对算法运用的结果负责是不争的事实。 这种算法责任的具体制度框架当然需要进一步确定，需要越来越多的关注。 为了制定初步框架，算法规定可能需要包括以下要素。

首先，对可以利用算法的场景建立慎重的判断制度。 在涉及公民重大权益的情况下，例如对刑事诉讼程序、量刑等行业，使用算法作出决定需要更严格的控制和审查机制。 其次，建立社会评价机制，对算法的运用是否产生了问题进行持续的跟踪研究。 这类似于新产品引进后的后续注意义务。 社会评价机制有充分的理由认定特定算法的运用，导致不良结果时，应该启动相应的问责机制，要求相应的算法运营者说明和证明，进行相应的优化。 再次，将责任机制复盖到算法行业。 在司法和行政理念中，无论是法官还是行政执行者，算法的运用都需要作为算法运营者行为的扩展。 无论运营者是否有过失，是否有行政违法等，算法要素都必须纳入追究责任的考虑范围。

外卖骑手被困在系统中的报道，不仅引起了人们外卖骑手的特定群体的关注，也引起了我们日益深入的算法时代的深入系统思考，以及建立相应的算法规制系统的关注和研究。 在这方面，我们还有很多工作要做。

(作者是北京大学法学院教授，北京大学电子商务法研究中心主任)

标题：普法:数字时代需要高度关注算法规制    地址：http://www.shuiyihui.cn/pf/2020/1226/19540.html