查看原文
其他

周泰·书声丨数据经济时代,数据安全和数据正义该如何维护?(赠书福利)

《算法霸权》

[美]凯西•奥尼尔

马青玲

未来20年,算法和大数据将席卷世界,接管我们的生活、社会和经济。我们生活中的很多方面都将落入自动化的数据分析之下。确保算法和大数据的公平性将是一项重大的任务,数据伦理的价值和意义将不断凸显出来。

大学排名和身体质量指数(BMI)竟然是一场骗局?

在数据经济时代,我们不仅是数据巨头的用户,也成为它们的商品?

为什么说“一般人公式”会带来更多的间接损害与不公?

数据安全和数据正义该如何维护?

周泰·书声 第九期邀请了学界及实务界专家人士,共同品读这本《算法霸权》,让我们一起感受一下数字杀伤性武器带给我们生活方方面面的影响和改变吧!


周泰·书声第九期邀请了:

江   溯

 北京大学法学院副教授

• 张凌寒

 中国政法大学数据法治研究院教授

• 郭  锐

 中国人民大学法学院副教授

戴  昕

 北京大学法学院长聘副教授

• 胡  凌

 北京大学法学院副教授

苏  宇

 中国人民公安大学法学院副教授

赵精武

 北京航空航天大学法学院助理教授

储  江 

北京周泰律师事务所高级律师

以上嘉宾做客直播间,共同探讨解读《算法霸权》的内容,精彩不容错过~

预约/观看方式

长按识别上方二维码

回复【算法霸权

预约/观看精彩内容

播出时间:5月10日(周二)19:00

播出时将抽取幸运观众赠送这本新书


本书简介

在这本书的作者凯西·奥尼尔看来,黑盒里,大数据的规模、伤害和隐秘共存,她在书中引用了大量发生在美国当下的、基于大数据和算法的、改变个人生活的案例,并对影响这些城市生活经验的算法做了特别的观察和研究。作者认为,数据和算法的关系就像枪械和军火,数据没有价值观,是中立的,但来自人类行为的输入,难免隐含偏向,而算法创造的数据又对人类行为产生反作用,从而导致更多的不公。凯西在书中指出:算法模型一旦运转,执法行为就会增多,产生的新数据又会进一步证明加强执法的必要性。形象地说,就是哪里“前科”越多,哪里就越受算法“关照”,最终形成一个失真甚至有害的回环。因此,建模者应该对自己的算法承担更多责任,政策制定者要对模型的使用进行管理,让更多的人受益,维护社会的公平与民主。

作者简介

[美]凯西•奥尼尔|著

数据科学家,mathbabe.org的博主、TED演讲人,博士毕业于哈佛大学,主修数学专业。她曾在巴纳德学院任教,之后为私营企业服务,例如避险基金公司等。她还在各类新型公司担任数据科学家,预测消费者的购买与点击趋势。每周,她都会出现在一个名为”财富记账”的播客上。

嘉宾导读


江溯

北京大学法学院副教授

周泰研究院联合院长

我们生活在一个算法时代,在算法给我们带来诸多便利的同时,也给我们带来诸多挑战。本书作者敏锐地指出,无论是在教师评估、简历筛选、入学就职,还是在申请贷款、购买保险、民主选举上,算法都可能成为一种杀伤性武器,造成社会混乱、种族歧视、司法不公、阶层固化,甚至侵蚀民主政治。为了消除算法霸权,作者希望数据科学家们遵循一个类似希波克拉底誓言的伦理准则,同时呼吁政府加强对算法的监管。正如本书所言,在某种意义上,我们正在与一场新的工业革命做斗争。本书所提出的问题与我们每个人休戚相关,其中随处可见的洞见值得每一个公民深思。

张凌寒

中国政法大学数据法治研究院教授

算法霸权,在万物皆可计算的数字时代敲响了一记警钟。作者描绘和揭露了,大数据技术的阴暗面,提醒我们在人工智能时代推进数字技术,治理社会和发展经济时,予以适当监管,莫忘人文关怀。

郭锐

中国人民大学法学院副教授

在一个经济、社会、政治领域都沉醉于功利追求的时代,这本书是兜头一盆凉水。只有我们清醒过来,才能把技术摆在正当的位置、警醒技术的为虎作伥。《算法霸权》举的多个“大规模数学杀伤武器”的例子中,中国读者熟悉、也让人触目惊心的,是大学排名带来的诸多不可预料的后果。数学模型和真实世界之间的差距,是这一切扭曲的根源。作者以数学专业的素养和对科技行业的熟悉,让人信服地论证:以数学模型为借口,给出过分简单化的解决方案,后果很严重,社会很受伤。

戴昕

北京大学法学院长聘副教授

作者叙事技巧娴熟,运用了大量鲜活、生动、令人过目难忘的事例,激发了读者有关数据分析和算法决策可能引发的社会风险的想象。本书的最大成功之处,是其参与开启了一个仍将持续保持热度的话语潮流。至少在未来一段时间内,对数字社会公共治理问题感兴趣的各界人士,都很难绕开本书设定的若干议题。

胡凌

北京大学法学院副教授

《算法霸权》讨论了美国社会中算法和大数据技术带来的种种风险,融合了一些社会科学思路展开描述和探讨,以讲故事的形式深入浅出,对理解和讨论中国语境下类似问题包括算法和数据监管有一定帮助,也希望能有作者写出结合本土例子讨论的类似著作。

苏宇

中国人民公安大学法学院副教授

《算法霸权》一书以大量的实例揭示了“数学杀伤性武器”给社会带来的风险和挑战,展示了脆弱的个体在各种算法和模型下面临的困境。本书揭示的问题发人深省,这些问题折射了人类尝试迈出传统决策模式、走进数据海洋时的复杂处境,凸显了人的无知、贪婪和偏执与数学工具相结合所可能引起的大规模危害后果,对数据与算法治理富有启发意义。

赵精武

北京航空航天大学法学院助理教授

在《算法霸权》一书中,作者凯西·奥尼尔向我们展示了一个被数学、算法和模型过度侵入的世界:掠夺性的贷款信用算法,歧视性的犯罪预测模型,大学排名、商品营销等正日益充斥着以效率为名、实则有害公平的算法。奥尼尔反对算法在“真空”中创造、不受偏见影响的假设,她用极具说服力的实例,阐明了算法具有规模性(影响更广泛)、不透明度、损害倾向三个方面的破坏性,是一种“数学破坏武器”。我们应该追究算法不公正的责任,而不是恶意的利用这一技术工具。

储江

北京周泰律师事务所高级律师


凯西•奥尼尔的《算法霸权》被认为是最早提及算法透明度和可解释性的著作,她通过列举各个不同行业关于数学计算模型应用产生危害的例子,提醒我们时刻警惕算法模型对工作生活所带来的“伤害”。

为了应对“算法霸权”,作者呼吁开发者应对自己的算法模型承担更多责任,也更期待政策制定者对算法模型的使用进行监督管理。随着大量科技企业主动承担算法透明责任以及关于算法治理相关法规的陆续出台,凯西的呼唤正在走向现实。但正如凯西所担忧的,呼吁公开和立法监管都并非最佳解决方案,对模型的掌控最终取决于我们自己——期待与每位阅读本书的读者一起直面问题、寻求改变。

媒体支持

北大法宝、新浪新闻、法律大讲堂

网络法学术研究组、社科大互联网法学

刑事法评论、网络法前沿、法学学术前沿

刑法界、塞博谈、青苗法鸣、法律部落学院

(排名不分先后)


往期推荐

周泰·书声丨《医疗刑法导论》品读会

北京周泰律师事务所   2022年1月10日

周泰·书声丨刘品新教授《电子

证据法》品读会

北京周泰律师事务所  2021年12月14日



欢迎关注周泰,欢迎点“”和“在看

您可能也对以下帖子感兴趣

文章有问题?点此查看未经处理的缓存