江溯、张凌寒、郭锐、戴昕、胡凌、苏宇、赵精武、储江：《算法霸权》对我们生活的影响
The following article is from 周泰研究院 Author 周泰律所
（题字：南开大学法学院校友安尧）
《周泰 · 书声》第九期之《算法霸权》品读会由北京大学法学院副教授/周泰研究院联合院长江溯担任主持。
现场邀请了中国政法大学数据法治研究院教授张凌寒、中国人民大学法学院副教授郭锐、北京大学法学院长聘副教授戴昕、北京大学法学院副教授胡凌、中国人民公安大学法学院副教授苏宇、北京航空航天大学法学院助理教授赵精武、北京周泰律师事务所高级律师储江共同探讨、解读这本《算法霸权》！
本文整理自全场各位嘉宾的发言，以飨读者。
江溯
北京大学法学院副教授
周泰研究院联合院长
线上的朋友大家好，欢迎大家来到周泰书声第九期，我们这一期共同品读的是美国学者奥尼尔的《算法霸权：数字杀伤性武器的威胁》这样一本书。在我们正式开始品读之前，我想先做一个简单的开场。
我们今天都生活在一个大数据的时代，大数据给我们带来了各种各样的便利，相信每一个关注大数据的人，可能都听说过或者说看过我手中的另外一本书，就是舍恩伯格《大数据时代》。
在这本书里，舍恩伯格对大数据的三个特征进行了非常精彩的概括，并且描述了大数据给我们的生活、工作以及思维方式带来的各种积极影响。但是，我们今天要品读的这本书可能跟舍恩伯格的这本书正好形成一个对照。
《算法霸权》这本书主要讨论的是大数据算法如何影响我们的工作，影响我们的求职，影响我们的就业，影响我们的日常消费，甚至影响我们在违法犯罪方面的概率。
今天参加我们品读会的嘉宾，首先是中国政法大学数据法治研究院的张凌寒教授，张凌寒教授今天将担任这本书的导读，大概用半个小时左右的时间给我们详细介绍这本书的基本内容。
在张凌寒教授导读之后，为我们进行分享的分别是中国人民大学法学院的郭锐教授，北京大学法学院的戴昕教授，北京大学法学院的胡凌教授，中国人民公安大学法学院的苏宇教授，北京航空航天大学法学院的赵精武教授，以及北京周泰律师事务所的储江律师。
那我们下面首先有请中国政法大学数据法治研究院张凌寒教授为我们做一个导读。
张凌寒
中国政法大学数据法治研究院教授
大家好，感谢江溯老师的邀请，很荣幸来到周泰书声，能跟大家一起聊一聊《算法霸权》这本书，我们今天一起品读的是凯西·奥尼尔的这本《算法霸权》。这并不是一本新书，早在2017年在美国已经出版了，2018年很快就被翻译成了中文。
这本书产生较大影响的原因，是五年之前正是数字经济蓬勃发展之时，整个社会都还在歌颂大数据给人们带来的便利，给决策带来的客观性、科学性。
作者却直言，这本书的目的是要揭示大数据的阴暗面。因此也有人评价说，这本书整个给人一种弥漫着末世感和技术悲观主义的气息。
那么《算法霸权》主要讲了一个什么样的故事……
江溯
北京大学法学院副教授
周泰研究院联合院长
感谢张凌寒教授刚才非常精彩的导读，正如张凌寒教授刚才所介绍的那样，大数据算法给我们带来的便利以及给我们带来的挑战其实并不仅仅是一个中国的问题，也不仅仅是一个美国的问题，而是一个全世界的问题。
在这本书里面，正如张凌寒刚才所介绍的那样，作者告诉我们，在社会生活的方方面面，我们可能受到算法各种各样的影响，在这样的影响之中，可能最为核心的一个冲突，就是如何平衡大数据算法给我们带来的便利与公正之间的关系，这是一个很古老的关于效率与公正的平衡问题。
张凌寒教授刚才也分析了，大数据算法这种数字杀伤性武器可能带来种种社会后果，以及我们面对这样的问题如何采取回应措施。因为这本书是在五年前写的，所以肯定没法跟上最近的技术与法律发展。
但是这本书里所呈现的一些问题，在各个国家可能或多或少依然存在。虽然是五年前的一本书，但是我们认为它对今天仍然有很重要的启示意义，再次感谢张凌寒教授的精彩导读。
我们下面开始第一个品读环节，第一个品读环节的第一位品读人是中国人民大学法学院的郭锐教授，郭锐教授和本书的作者是校友，郭锐教授是哈佛大学的法学博士，而本书的作者是哈佛大学的数学博士，我们首先来听一听郭锐教授对这位校友的这本书的评价。
郭锐
中国人民大学法学院副教授
谢谢江溯老师，谢谢周泰的邀请。数学杀伤性武器和大规模杀伤性武器，在英文中同样用到WMD的缩写（Acryname）。我们对两个WMD的警觉性不一样。在一个经济、社会、政治领域都沉醉于着功利追求的时代，这本书是兜头一盆凉水。
只有我们清醒过来，才能把技术摆在正当的位置、警醒技术的为虎作伥。《算法霸权》举的多个“大规模数学杀伤武器”的例子……
江溯
北京大学法学院副教授
周泰研究院联合院长
感谢郭锐老师刚才以残障法中的真实案例向我们解释了算法为什么会产生歧视，刚才他举的这个案例可以说是以小见大，让我想起来我在几年前写过的一篇文章，里面涉及的是在美国联邦刑事司法体系里普遍采用的一种用来预测罪犯的再犯可能性的算法工具，叫做COMPASS。
在一个有影响力的案件里，被告人Loomis是一个黑人，他虽然犯了一个比较轻的罪行，但是由于法官使用了COMPASS这样一个算法工具，而这一工具对他的危险评分很高，因此法官判定他将来会再犯罪，于是给他判处很重的刑罚。
在这个案子里，根据美国学者的研究发现，虽然COMPASS这样一个算法工具是由一家著名公司所开发的，而且借鉴了美国犯罪学家的最新研究成果，运用100多个指标来对被告人的再犯可能性进行评估。
但是如果我们仔细分析一下这些指标，会发现这些指标涉及家庭背景、教育程度、居住的社区、就业状况等。在美国的社会里，在这些指标上处于不利地位的恰恰是那些少数族裔尤其是黑人：他们的家庭往往并不完整，他们可能长期失业，他们的教育程度比较低，他们的收入比较低，所居住的社区往往是违法犯罪率比较高的社区。
当黑人Loomis接受COMPASS这样一个天生有歧视的评估工具的评估之时，他必然会得到很高的再犯可能性评分。
我觉得这个例子和郭老师刚才所举的例子有非常相似的地方。再次感谢郭老师的精彩分享。我们下面有请这个环节的第二位嘉宾——北京大学法学院的戴昕教授做分享。
戴昕
北京大学法学院长聘副教授
谢谢江老师，很高兴今天有这个机会跟大家谈谈我对书的基本看法.这是很好的一本书，刚才前面老师也介绍了，刚刚开始出来的时候是很轰动的.虽然像刚才江老师讲的，这个书已经出来五年多了，但是好的书提出的问题能够有持久的讨论价值……
江溯
北京大学法学院副教授
周泰研究院联合院长
感谢戴昕老师对这本书的反思性品读。戴昕老师主要讲了两个方面，第一个方面，他告诉我们在阅读这本书的时候要注意这本书跟我们所讨论的中国问题在文化和社会背景方面的差异。
第二个方面，他谈到今天我们可能在算法决策的时候存在着各种各样的问题，但是如果我们把算法决策与人类的决策相比，算法或者机器做出的决策并不一定比我们人类差。
这两点我觉得都是非常具有启发意义的。我们下面有请这个环节的第三位嘉宾，北京大学法学院的胡凌教授给我们做分享。
胡凌
北京大学法学院副教授
接下来我也谈一下对这个书的看法，也包括我想到的一些问题，这个书之前一开始最早看的是英文的版本，我觉得也是非常新颖。
这个书涵盖面比较广，能够把很多我们看上去好像不太相关的东西勾连在一起，而且也是有一些跨学科的包括社会科学的角度，能够帮助读者通过不同的例子结合具体场景进行思考……
江溯
北京大学法学院副教授
周泰研究院联合院长
感谢胡凌老师的精彩分享。胡凌老师的分享是一种建设性的，他从制度和处于制度中的人这两个角度分析了我们如何解决算法带来的问题。胡凌老师和戴昕老师的分享都带有很强的启发性、反思性。再次感谢这个环节的三位嘉宾。
我们下面进入本次品读会的第二环节，首先我们有请中国人民公安大学法学院的苏宇教授做分享。
苏宇
中国人民公安大学法学院副教授
谢谢江老师，对于《算法霸权》这本书，实际上我们觉得这个书的意义是非常明显的，因为这本书实际上出版在2016年，那个时候很多人对数学杀伤性武器的威胁了解还并不是很深。
对于我来说，看到这本书之后，倒是勾起了很多回忆，因为其中有一些事件和场景，我个人可能刚好有一些体验……
江溯
北京大学法学院副教授
周泰研究院联合院长
感谢苏宇老师的精彩分享。苏宇老师首先对本书中所涉及的一些可能对我们产生毁灭性影响的算法进行了梳理，在此之后他对算法引发问题的原因进行了非常深入的分析，进而指出在这些原因分析的启示之下，我们必须承认有一些问题是可以得到纠正的，比如像辛普森悖论。
但是有些问题在现有的框架下可能暂时无法得到解决，最后苏宇老师给我们展示了他的解决方案，也就是所谓的算法制衡理论。
由于时间的原因，苏宇老师无法非常详细地展开他的全盘想法，但是在这么短的时间内，他已经给我们非常清晰地展示了问题的根源，以及他所思考的问题解决方案，非常精彩！
再次感谢苏宇老师。我们下面有请这个单元的第二位嘉宾——北京航空航天大学法学院的赵精武教授给我们做分享。
赵精武
北京航空航天大学法学
院助理教授
在过去，算法治理议题远不如如今这么火热，国内外学者多开始关注到算法滥用背后对社会结构和权利保护的损害后果。
《算法霸权》一书中所提出的算法问题归根结底可以理解为“算法剥夺了选择权的实际选择空间”和“算法滥用对人格尊严的践踏”。
诚如该书所言，人类作为法律主体的地位开始沦为技术治理的客体，个人在面对信用评估、绩效评估等领域的算法技术应用时，既无法知晓算法评估结果的形成过程和形成依据，也无法拒绝算法评估自己（客体评估主体）……
江溯
北京大学法学院副教授
周泰研究院联合院长
感谢赵精武教授立足于中国的讨论进行的品读。赵精武教授刚才着重谈到了算法服务自主权这样一个概念，并引用了张凌寒教授的相关研究。
他的观点是在中国的语境下，可能要解决的一个核心问题是算法黑箱的问题，这一点我也是很赞成的。我们下面有请这次品读会的最后一位分享嘉宾——北京周泰律师事务所的储江律师进行分享。
储江
北京周泰律师事务所
高级律师
谢谢江老师，非常荣幸能够跟今天在座的所有老师一起分享对于《算法霸权》这本书读后的一点感想。事实上不仅仅是对于学界来说，五年前这本《算法霸权》出版的时候，对于整个产业界来说也是一个比较大的颠覆性的影响。
可以看到国内的一些互联网企业其实在这本书出来之后，也尝试在算法公开方面做出一些努力，而且目前国内法规中对于算法可解释性的要求，透明度要求等等一系列的思想来源，都可以认为从这本书出版之后开始的，因此相对来说这本书在行业内业界的影响也是非常大的。
借由本次品读的机会，我也是对这本书做了一个深入的研究……
江溯
北京大学法学院副教授
周泰研究院联合院长
感谢储江律师从实务角度进行的分享，储江律师的分享让我意识到，我们在理论上探讨的很多问题，从实践的角度上来看，可能并不需要那么的悲观，这让我们感到一丝丝轻松，我们认为实务人士的观点往往更加有助于让我们看清现实。再次感谢储江律师。
非常感谢上述各位嘉宾的精彩品读。下面由我来做一个非常简短的总结。《算法霸权》这本书告诉我们，我们今天生活在一个算法的时代，我们的个人生活、社会生活，甚至包括我们的政治生活，在方方面面都受到算法的影响。
在这本书里，作者通过一个人的整个生涯的追踪，告诉我们算法可能在很多方面会对我们产生重大的影响，无论是在教师评估、简历筛选，还是在投保，以及入学等这些基本问题上，算法可能都会对我们产生重大的影响。
按照本书作者的看法，如果我们不能很好地应对算法所带来的挑战，那么它可能会带来社会的不公，会造成种族歧视的加剧，会造成阶层的固化，甚至会对我们的民主制度产生侵蚀的作用。
正如我们刚才的分享嘉宾戴昕老师所指出的那样，在理解作者在本书中的观点之时，我们要特别注意的是本书的作者是以美国文化和社会作为其叙述背景的，而中国跟美国在文化和社会背景上存在比较大的差异。
值得注意的是，本书是在2016年完成的，我们现在已经是2022年，本书中所描述的算法给我们带来的各种各样的问题，可能在过去不长也不短的六年时间已经得到了一定程度的解决。
但是我们也承认，本书的作者所指出的很多问题，可能在世界范围内还没有得到解决，这也是我们今天在这里共同品读这本书的价值之所在。
刚才苏宇老师对为什么算法会给我们带来这么多的挑战进行了非常深入的分析，原因可能包括我们在运用算法的时候设定了不恰当的目标，或者说我们使用了不恰当的变量，我们使用了不恰当的算法，我们运用了可能存在错误的数据。这些原因共同导致算法霸权的问题至少在一定的时间之内会继续存在。
本书的作者声称我们是在与一场新的工业革命做斗争。经过我们今天的品读，我们可能会认为问题并不像他所说的那么严重，当然问题在一定的范围内是依然存在的。
我们品读这本书当然并不仅限于发现这些问题背后的原因，相反，我们更希望的是找到一些可能的解决方案。实际上，在这本书里，作者已经给出了一定的解决方案。
我认为，本书作者提出了两个层面的解决方案：
一个层面是个体层面的解决方案，对于我们的数据科学家来说，对于那些设计算法模型的人来说，我们希望他们能够像医生那样，遵循一个在成为医生的时候要遵循的希波克拉底誓言。实际上，早在2008年，已经有两位科学家草拟了这样的誓言版本。这是一个个体层面的解决方案，它依赖的其实是一种伦理道德。
另一个层面是政府的监管。我个人认为，今天我们的品读嘉宾们可能提出了比本书的作者更为完善、更加全面的解决方案，比如刚才赵精武老师所提出的算法服务自主权，以及储江律师包括其他嘉宾提出的算法可解释性、算法透明性，以及苏宇老师所提出的算法制衡的完整理论。
对于如何解决算法给我们带来的挑战这一难题，我认为这些方案可能比本书作者提出的方案更为全面，而且更为务实，因为毕竟本书的作者不是一位法律专家，他是一位数学博士，所以他可能在很多具体法律和制度问题上并没有非常精深的研究。
今天参加我们品读会的各位嘉宾，可以说都是某一个领域的法律专家，而且很有意思的是我们出席的各位专家，来自于不同的研究领域，比如说张凌寒老师是民法专家，戴昕老师和胡凌老师是法理学专家，郭锐老师是金融法和残障人士保护法专家，赵精武老师是民法专家，苏宇老师是行政法专家，储江老师是知识产权法、专利法的专业法律人士，而我自己主要是研究刑法的。
我们可以看到，虽然我们分属不同的法律部门，但我们可以围绕这样一本书展开研讨，这是一种法学内部的多元开放。
当然如果仅仅只是从法律的角度来看待像算法引起的挑战这样的问题，可能还是不够的，所以我们同样也需要本书的作者的视角。
我可能更为赞同的是郭锐老师所提出的一个观点，那就是说今天我们每一个生活在数字时代和算法时代的普通公民，可能更需要的是一场新的启蒙。
这场新的启蒙会告诉我们如何在这样一个新的工业革命的背景之下，重申我们关于一些基本价值的诉求和立场，我觉得这个可能是更加重要的，因为不是每一个普通公民都会和我们一样，有这样的宝贵机会针对相关的法律问题或者社会问题坐而论道。
总之，对于每一个生活在算法时代的公民来说，我们认为可能思维或者说思想上的转变，可能是更加重要的。我们希望这次品读会能够对这样一场新的启蒙发挥一定的积极作用。如果能如愿以偿，我相信今天在场的每位嘉宾都会感到特别欣慰。
以上就是我们本次品读会的全部内容，再次感谢线上的各位观众持续关注我们《周泰·书声》的活动，让我们共同期待第十次的《周泰·书声》，再次感谢大家！