在美国，政治正确会成为AI领域实现种族多元化的阻碍吗？
本文系商业周刊App付费文章，禁止转载。
撰文：Jeremy Kahn、Dina Bass
黑人研讨会成为人工智能领域争议热点
Twitter口水战体现了人们对多元化和政治正确的担忧
一项致力于鼓励黑人研究员积极参与人工智能领域的活动成为最近的争议热点，这些争论涉及计算机科学前沿领域的多元化，以及政治正确标准是否过于严苛。
黑人专属会议
一个名为“Black in AI”的组织计划在2017年12月神经信息处理系统大会(Conference on Neural Information Processing Systems)上举办午后研讨会，重点介绍黑人计算机科学家的人工智能研究成果，这次大会是人工智能领域科学家参与的顶级国际会议之一。虽然研讨会的组织者邀请各界人士参与，不过他们表示只有黑人研究员才有资格提交论文。随着研讨会的消息在社交媒体上传播开来，引发了部分程序员和学者的强烈反对，他们质疑是否有必要举办仅关注黑人科学家研究的活动。这场争论让人想到了2017年8月谷歌员工詹姆斯·达莫雷(James Damore)引起的争议，当时达莫雷发表了宣言，批评该公司在招聘和晋升方面过度追求多元化政策，而不重视员工的技术能力。
神经信息处理系统大会(NIPS)，是一个关于机器学习和计算神经科学的国际会议。该会议固定在每年的12月举行,由NIPS基金会主办。
虽然人工智能和机器学习领域多元化的问题集中在包容性和就业方面，不过这个问题有更深远的影响。假如软件算法采用多元化的数据集进行训练，就可以公平有效地运行。让人担忧的是，由于这些自动化系统越来越多地应用在关键决策中，比如获得银行贷款或者获得假释的人选，如果系统背后的科学家缺乏多元化，那么就会产生有偏见的结果。
种族偏见
现在已经发生了一些受人瞩目的事件，表明人工智能项目存在种族偏见。2016年，一款原本应该根据照片的客观特征（比如面部对称性和皱纹）判断人类容貌的计算机程序被发现青睐于肤色浅的人。2016年，微软公司在Twitter上发布了名为Tay的人工智能聊天机器人，用户很容易就教会了机器人使用种族主义语言，传播新纳粹观点。一个人工智能算法原本应该为假释委员会提供客观建议、判断罪犯释放后是否可能犯下新罪行，结果发现把黑人错误地划入“高风险”类别的可能性是白人的两倍。令人担心的问题还有大数据隐含的偏见，因为无论是抵押贷款、保险承保还是新药的临床试验，大数据都越来越多地用于训练机器学习算法。
Black in AI的联合创始人蒂姆尼特·加布鲁(Timnit Gebru)在微软公司研究人工智能，她也是美国人工智能领域仅有的几位黑人女性计算机科学家之一。她一直呼吁人们关注机器学习算法使用的数据中存在的偏见问题，表示这个领域缺少多元化意味着构建人工智能系统的人不够了解这些问题。Black in AI网站显示，这个组织致力于促进研究人员之间的合作，提高黑人在人工智能领域的参与度。
Black in AI网站页面
引发争论
这场关于Black in AI研讨会的争论是Alphabet公司的人工智能实验室谷歌大脑(Google Brain)研究科学家伊恩·古德费洛(Ian Goodfellow)引发的，10月11日，他在自己的Twitter上发文推介了这个研讨会。有个名为@typeload 的Twitter用户回复了古德费洛的帖子，“这个研讨会有必要吗？如果计划参加的黑人想提交他们的论文，他们为什么不能在所有种族参与的活动上这么做？”
Twitter用户@typeload最初发表的评论
其他人很快也加入了争论。俄罗斯商业和会计软件公司SKB Kontur的数据科学家季莫费伊·亚利莫夫(Timofey Yarimov)评论称，“这实际上推动了人工智能（以及整个社会）的隔离：黑人参加为黑人举办的活动，女性参加女性活动，诸如此类。”艾哈迈德·阿德利(Ahmed Adly)说，“我认为没有这个必要，好处远远少于坏处，”他在领英(LinkedIn)上的个人资料显示他的职位是卡塔尔IT服务公司Malomatia的“流动性主管”。
当彭博联系亚利莫夫时，他拒绝进一步回答关于自己观点的问题。
阿德利在给彭博社的电子邮件中说，他承认人工智能领域存在对女性和非白人男性的歧视，但是不确定Black in AI活动的真实意图。“如果这次活动是为了反对我们已知这个领域存在的歧视，那么这是件好事，”他写道，但是如果是打算“利用特定群体的艰难处境来吸引人参与，那就不是件好事，”只会破坏反对歧视的原则。他还表示，他在公司负责领导研究人工智能的可能用途，但是不打算参加2017年的神经信息处理系统大会。
Twitter用户@typeload 最初发表了火冒三丈的评论，不过后来他的态度有所缓和，向古德费洛表示，“我并不是持这样的观点，只是想问问限制发言人种族的活动如何给社区带来益处而不是坏处。”在彭博社通过Twitter联系@typeload 时，这位用户拒绝回答更多的问题。
这些质疑的评论反而引发了人工智能领域许多人士的反驳和指责。“看到这些回复真可怕，尤其是考虑到这个领域将给下一代软件带来这些偏见。”布兰农·多尔西(Brannon Dorsey)发推文称。这位芝加哥艺术家、程序员在工作中应用人工智能软件。Netflix高级数据科学家威廉·海伊(F. William High)发推文称，那些质疑这个讨论会有必要举办的人应该问问“身边黑人研究员”的意见。他评论说，“如果你找不到黑人研究员，可能这就是此次活动想要解决的问题。”
在联系发表评论的用户时，有些在Twitter上质疑研讨会是否有必要举行的学术研究人员拒绝置评，表示他们很担心自己的工作，因为他们发布关于Black in AI的推文后，有人向他们所在的大学提交了种族主义投诉。像詹姆斯·达莫雷一样，这些研究人员指责政治正确已经阻碍了关于人工智能缺少多元化的认真讨论。
加布鲁任职于微软公司公平、责任、透明度和道德研究团队，负责研究人工智能数据的偏见问题，2017年10月20日，与她共同组织Black in AI研讨会的四位同行拒绝通过电子邮件进行置评。在Twitter上，加布鲁发评论感谢古德费洛，“坚持你的立场，推广我们的活动和目标。”
编辑：黄琬钧、邹世昌
翻译：孟洁冰
◆ ◆ ◆ ◆ ◆
点击你感兴趣的关键词
立即获得关于TA的更多信息！
......