WINE 2020 | Yiling Chen教授谈将算法纳入决策的挑战
编者按
第十六届国际互联网经济学术会议（The 16th Conference on Web and Internet Economics, WINE 2020）于2020年12月7日—11日在线上举行，由北京大学主办，北京大学前沿计算研究中心承办。
本期带来大会特邀报告精彩内容回顾。
12月7日，哈佛大学教授 Yiling Chen 带来了题为《将算法纳入决策的挑战：公平、福利和差别性交互》的主旨报告。报告由中国科学院大学教授陈旭瑾主持。该报告讨论了当计算机算法被应用于实际社会问题的决策过程或辅助人们做决策时的两个挑战，一是对算法的公平性的要求会影响社会福利，二是人们与算法的交互方式会影响人们的决策过程。
Yiling Chen教授报告中
Yiling 首先介绍了该报告的背景和大纲。如今，计算机算法被越来越广泛地应用于实际问题。当算法取代了人成为决策的主体后，我们会关心算法的决策是否合理。公平性和社会福利是衡量算法表现的两种标准。在某些实际问题中，这两种标准可能会互相冲突。于是我们关心这样一个问题：“对算法的公平性的考量如何与经济学中的福利概念联系起来？”
另一方面，在许多实际问题中，人依然是决策的主体，算法的作用在于辅助人的决策。算法可以提供信息、预测、评估等，来帮助人们做决策。一个很自然的问题便是：“算法的辅助如何影响人的判断和决策？”Yiling 在接下来的报告中回答了这两个问题。
报告的第一部分讨论公平性和福利的问题。Yiling 讨论了在以 SVM 为例的分类算法中，加入公平性约束后，个体的福利会如何变化。一个例子是，银行使用 SVM 来判断是否应该贷款给某个人。我们希望银行的决策对不同群体是公平的，比如男性群体和女性群体。为此，我们在 soft-margin SVM 中添加一个公平性约束，要求算法在两个群体上的表现不能相差太多。“不能相差太多”可以用一个参数 eps 来刻画。eps 越小，算法越公平。eps=0 表示分类器在两个群体上的平均表现是相同的。
我们关心参数 eps 如何影响不同群体的福利。群体的福利定义为该群体中所有个体的效用的均值（假设个体获得贷款的效用总高于未获得的效用）。
Yiling 在报告中指出，在分类问题中，公平性约束可能会损害社会福利。理论分析发现，当公平性参数 eps 减小时，SVM 输出的分类方案不仅不是帕累托最优，还可能会让所有人的效用降低。证明的思路是分析参数 eps 如何影响 SVM 优化问题的对偶变量。
除了理论分析外，Yiling 还展示了一些实验结果。实际数据集上的实验表明，随着参数 eps 的减小，女性群体的福利呈上升趋势，男性呈下降趋势。这说明，对公平性的要求确实可以改善银行贷款中的性别歧视现象，提升女性福利。然而，在部分区间内，减小 eps 也可能同时降低两个群体的福利（如下图虚线内所示）。
这部分工作是与 Lily Hu 共同完成的。
报告的第二部分讨论算法的辅助如何影响人们的判断和决策。该部分是实验性质的工作，通过以人为被试的一系列实验，研究了在审前羁押（pretrial detention）和贷款问题中风险评估算法对人的决策的影响。审前羁押是指嫌疑人被逮捕后，法官需要判断在审理案件之前应该羁押还是释放嫌疑人。风险评估算法可以预测嫌疑人被释放后不会出庭或被再次逮捕的概率，从而帮助法官做出判断。Yiling 讨论了使用风险评估算法的三个方面的影响：一是准确率，即算法的使用是否能让风险评估更准确；二是公平性，即人与算法的交互行为是否会受到种族、性别等敏感属性的影响；三是决策过程，即风险评估算法是否确实改变了人的最终判断。
实验在 Amazon Mechanical Turk 上进行，被试为普通人而非专家；所用的风险评估算法为 boosted decision tree。实验结果如下：
1. 准确率
实验表明，在审前羁押中，算法的介入越多，被试对风险的预测越准确。如下图，左边 NO RA 表示没有算法介入，右边 RA ALONE 是指只使用算法，中间的 RA 和 UPDATE 是两种介入方式（RA 是同时显示嫌疑人的信息和算法的预测后让被试做出预测，UPDATE 是待被试做出预测后再显示算法的预测，允许被试更新）。贷款问题的结论类似。
2. 公平性
不幸的是，实验表明，人与算法的交互会受到种族因素的干扰。下列左图反映了当风险评估算法输出高风险时，被试的预测在算法的影响下会增加多少；该图的数字为嫌疑人是黑人和白人时对应的增加量的差值，差值大于0表示被试对黑人的风险预测更容易受到算法的影响。右图刻画了被试的预测与算法的预测相差多少，同样取黑人与白人的差值，差值依然大于0。UPDATE 这种算法介入方式的差值比 RA 小，说明人与算法的交互受种族因素的干扰的程度与交互方式有关。在该实验中，UPDATE 比 RA 更公平。
3. 决策过程
前两组实验说明在审前羁押中被试对嫌疑人的风险预测值会受到算法的影响，但法官最终需要决定是否释放嫌疑人，而非给出风险预测值。那么，算法是否最终影响了人的决策呢？根据 Yiling 展示的第三组实验，答案为“是”。如图，曲线为被试决定羁押的概率与他给出的风险预测值的关系。黄色的曲线为算法介入的曲线；蓝色曲线没有算法介入。两条曲线不一致，说明算法的介入确实改变了被试的决策过程。
这部分工作是与 Ben Green 共同完成的。
最后，针对算法决策或算法辅助决策这个大方向，Yiling 总结道：从社会福利的角度看，公平性可能有悖于帕累托最优原则；从人与算法的交互角度看，算法的辅助可以改变人的决策过程，也可能加剧不公平。此外，非常重要的一点是，当我们评估一个用于实际决策的算法时，不能只看算法的表现，必须全面考量其实际应用场景、应用效果、以及与人的交互等因素。
WINE 2020 参会指南
本次大会为期5天，共设6个分论坛，给大家带来：
42个学术报告
6个女性论坛报告
4个 keynote 特邀报告
11个 poster
11个 workshop
EC best presentation
会议将全程采用线上模式，每天8小时不间断直播，所有公开报告均可以免费注册观看。
请长按↓小程序码↓转免费注册：
公众号内回复“WINE”转大会信息合辑。
为你最喜欢的海报和报告投票
免费注册者也可以参与投票哦（权重是普通注册者的一半）
投票网站：https://elicitation.info/accounts/signup
请使用你在注册 WINE 2020时使用的邮箱注册。
注册后，点击主页中的 Vote for WINE 开始投票。你可以为一个海报和一个报告投票，投票在提交后不可修改。
投票页面将在会议开始后可见。
投票实时热榜
每天北京时间晚11点将会揭晓当天投票热榜。
你可以在Happy Hour Session（https://gather.town/app/Xpxd8okJW4u1TKHp/WINE20TeaBreak）中观看实时揭榜。
你也可以在网站中看到截至前一天晚11点的榜单。
联系我们
投票相关问题，请联系：
Zhihuan Huang nbdhhzh@pku.edu.cn
Shengwei Xu shengwei.xu@pku.edu.cn
往期回顾
大会及特邀报告介绍
分论坛介绍及议程
特色论坛介绍及议程
大会官网
http://econcs.pku.edu.cn/wine2020
直播平台
哔哩哔哩
寇享学术
关于WINE
国际互联网经济学术会议 （The Conference on Web and Internet Economics, 简称WINE）是由姚期智、叶荫宇和邓小铁教授自2005年从中国香港发起，在亚、欧、美三大洲循环举办的互联网经济学术会议，旨在推动理论计算机、运筹学和机器学习方法论和互联网经济学的交互发展，历经15届，已经成为三大洲互联网经济学者开展科研成果交流的国际顶级会议。
时隔六年，WINE 再次来到中国。本次大会将聚焦于互联网经济及相关学科的前沿问题和最新进展，涵盖机制设计、博弈、拍卖、定价、社会选择等互联网中的重要议题，旨在为各国从事互联网相关经济问题的研究人员提供一个相互交流和展示成果的平台，以此来推动互联网经济及相关学科的发展。
因疫情原因，WINE 将首次在线上召开，届时，论文作者将在线上进行报告和答疑。同时大会还邀请到国内外计算经济学领域的诸多专家学者带来精彩的主题演讲。线上形式给 WINE 2020带来了更多的可能性，组委会正在解锁全新的互动环节，敬请关注！
组委会介绍
大会主席
邓小铁
北京大学前沿计算研究中心讲席教授
欧洲科学院外籍院士
ACM Fellow，IEEE Fellow
程序委员会主席
陈旭瑾
中国科学院数学与系统科学研究院研究员
Nick Gravin
上海财经大学教授
Martin Hoefer
法兰克福大学教授
Ruta Mehta
伊利诺伊大学厄巴纳-香槟分校助理教授
大会特邀报告人
Eric Budish
芝加哥大学商学院教授
Yiling Chen
哈佛大学教授
Jose Correa
智利大学教授
Constantinos Daskalakis
麻省理工学院教授
承办单位简介
作为大会的承办单位，北京大学前沿计算研究中心（PKU CFCS）成立于2017年12月，为北京大学新体制科研机构，立足国际计算机学科前沿，与世界顶尖高校及科研机构深度合作，在计算理论、人工智能等多个领域的交叉方向展开前沿探索，创立具有国际一流影响力的计算理论科学研究中心；创建宽松自由的国际化学术环境，助力青年科学家成长为计算机学科世界一流的学者；并以“图灵人才培养计划”为代表，建立国际先进的计算科学及相关交叉学科人才培养机制，为国家新时代科技和教育发展培养引领未来的卓越人才。
赞助商
文字 | 林涛、段志健
— 版权声明 —
本微信公众号所有内容，由北京大学前沿计算研究中心微信自身创作、收集的文字、图片和音视频资料，版权属北京大学前沿计算研究中心微信所有；从公开渠道收集、整理及授权转载的文字、图片和音视频资料，版权属原作者。本公众号内容原作者如不愿意在本号刊登内容，请及时通知本号，予以删除。
点“阅读原文”转B站直播